L'hypothèse nébulaire explique la formation du système solaire à partir d'un nuage de gaz et de poussière en rotation. Proposée au XVIIIe siècle par Emmanuel Kant et Pierre-Simon Laplace, elle n'a cessé d'être affinée depuis. Son idée fondamentale a perduré car elle explique de nombreux phénomènes : pourquoi les planètes orbitent autour du Soleil dans le même sens, pourquoi leurs orbites se situent approximativement dans le même plan, et pourquoi le Soleil et les planètes ont des compositions similaires.

L'histoire est la suivante. Un nuage moléculaire géant s'est effondré sous l'effet de sa propre gravité, probablement suite à l'explosion d'une supernova proche. En s'effondrant, il a accéléré sa rotation et s'est aplati en un disque. Son centre est devenu dense et chaud, provoquant la fusion nucléaire et donnant naissance au Soleil. Dans ce disque, les grains de poussière se sont agglomérés, formant d'abord des cailloux, puis des roches, puis des planétésimaux. Certains planétésimaux ont grandi suffisamment pour devenir des planètes. D'autres sont restés des astéroïdes et des comètes.

L'hypothèse a été testée par l'observation d'autres étoiles. Les astronomes ont découvert des disques protoplanétaires autour de jeunes étoiles, certains présentant des lacunes où se forment des planètes. Les observatoires Kepler et ALMA ont apporté des preuves directes. Ce modèle n'est pas parfait. Il peine à expliquer la formation si rapide des planètes géantes et l'évolution de l'architecture du système solaire. Il demeure néanmoins le fondement de la planétologie.