Consulté en 1785 par Lenoir, bibliothécaire du Roi, Boullée propose une solution assez déconcertante que les continuateurs de Bachaumont dans les Mémoires secrets ont justement qualifiée de " grande, neuve, ingénieuse et simple. [...] C'est tout uniment de couvrir la cour [de l'ancien palais Mazarin] qui est immense, d'en disposer la décoration intérieure de manière qu'elle présente un superbe amphithéâtre de livres et de réserver les bâtiments actuels comme dépôts des manuscrits, des estampes, des médailles, de la géographie et autre. Ce qui rend ce projet plus recommandable, c'est que l'artiste effectue avec un million et demi au plus ce qui sur un autre emplacement coûterait quinze à dix-huit millions. "

La cour, une fois recouverte d'un berceau en plein cintre, devient une salle de lecture longue d'une centaine de mètres et large d'une trentaine, qui aurait été la plus vaste d'Europe. L'éclairage zénithal et la suppression des ouvertures latérales permettent un gain notable en surface de rayonnage et la mise à disposition d'un volume colossal de livres -plus de trois cent mille volumes- présentés en libre accès dans les contremarches des gradins et derrière les colonnades supérieures : " Que dans ce vaste amphithéâtre, l'on se figure des personnes placées sur divers rangs et distribuées de manière à se passer de main en main les livres; on conviendra que le service sera aussi prompt que la parole, sans que l'on ait d'ailleurs la crainte des dangers qui peuvent résulter des échelles ".

À la différence d'autres grandes commandes publiques comme l'Opéra et la Madeleine, le projet d'agrandissement de la Bibliothèque royale fut presque sur le point d'aboutir. En témoignent le nombre important de dessins exécutés par l'architecte et une maquette exposée rue de Richelieu jusqu'en 1791. Retardé, puis oublié lors de l'épisode révolutionnaire, il réapparut finalement sous une forme nouvelle au siècle suivant quand Labrouste créa sa grande salle de lecture sur une partie de l'ancienne cour du palais Mazarin.

" S'il est un sujet, écrit Boullée dans son Essai, qui doive plaire à un architecte, et en même temps échauffer son génie, c'est le projet d'une bibliothèque publique. À l'occasion de développer les talents se joint le précieux avantage de les consacrer aux hommes qui ont illustré leur siècle. "
Au départ, comme le montre la coupe longitudinale de la première variante, Boullée avait imaginé une grande salle de lecture, ornée de statues de savants montées sur des piédestaux. Il modifia ensuite son projet et l'adapta à un thème pictural célèbre :
" Profondément frappé de la sublime conception de L'École d'Athènes par Raphaël, j'ai cherché à la réaliser ".
Sur le dessin de la perspective intérieure de la seconde variante, l'architecte a représenté les savants qui animent la célèbre composition de Raphaël. Drapés à l'antique, les grands hommes sont placés sous une voûte qui semble représenter l'univers. Il peut sembler paradoxal que Boullée ait substitué à un public de lecteurs un cercle choisi de savants et de philosophes, comme s'il s'était finalement conformé au vieux projet de Colbert d'unification de la bibliothèque et de l'Académie, mais il a cherché surtout à donner une représentation idéale du savoir. À cet égard, la perspective intérieure du projet de bibliothèque est frappante par sa valeur narrative, c'est une grande scène inspirée par Platon que pénètre le souffle antique du mystère.