Die Artentstehung beschreibt die Bildung einer oder mehrerer neuer Arten aus einer oder manchmal mehreren ursprünglichen Arten. Die daraus resultierenden Arten sind von der Elternart getrennt, wobei in der Regel Reproduktionsbarrieren entstehen. Es gibt zwei primäre Mechanismen der Artbildung, die mit und ohne geographische Isolation, auch allopatrische und sympatrische Artenbildung genannt.

Die allopatrische Artenbildung

Bei der allopatrischen Artbildung wird der Genfluss zwischen zwei Populationen derselben Art durch eine geographische Barriere, wie z.B. einer Gebirgskette oder einer Aufteilung des Lebensraums, verhindert. Man nennt dies Vikarianz. Zum Beispiel kann Trockenheit dazu führen, dass der Wasserspiegel in einem großen See sinkt und zwei oder mehrere kleinere Gewässer zurückbleiben, in denen die Bewohner voneinander getrennt werden.

Einmal isoliert, können die Individuen dieser Populationen verschiedenen externen Belastungen ausgesetzt sein, wie z.B. Klima, Verfügbarkeit von Ressourcen oder Raubbau. Diese Unterschiede in der natürlichen Selektion verbunden mit dem genetischem Drift und Mutationen über viele Generationen der Trennung führen schließlich dazu, dass die beiden Populationen zu eigenständigen Arten werden. Dies wurde in Seen beobachtet, die afrikanische Buntbarsche enthielten, die eine große Anzahl von Arten aufweisen, von denen sich viele wahrscheinlich durch Allopatrie entwickelt haben.

Dispersion kann auch allopatrische Artenbildung erzeugen. Zum Beispiel lebt die parasitäre Seeanemonenart Edwardsiella lineata an der Ostküste Nordamerikas. Sie hat eine eng verwandte Zwillingsart, E. carnea, die im Meer an der schwedischen und norwegischen Küste lebt. Die Verbreitung von E. lineata, die wahrscheinlich in ihrem Larvenstadium als Parasiten von Kammquallen getragen wurden, könnten zur Gründung einer neuen Population an der skandinavischen Küste geführt haben. Diese neue und genetisch isolierte Population divergierte dann im Laufe der Zeit zu einer eigenen Art, die heute als E. carnea bekannt ist.

Die sympatrische Artenbildung

Die Artentstehung kann auch ohne geographische Barrieren auftreten. Zum Beispiel enthalten einige Kraterseen in Island mehrere neuartige, eng verwandte Fischarten, die sich mit ziemlicher Sicherheit durch Sympatrie entwickelt haben, da eine geographische Isolation aufgrund der Form ihres Lebensraums unmöglich ist. Sympatrische Artbildung ist jedoch wohl schwieriger zu erreichen. Bei der Sympatrie kommen die einzelnen Arten noch immer miteinander in Kontakt und können sich möglicherweise miteinander kreuzen und Gene austauschen. Die Rekombination der Chromosome tritt wahrscheinlich häufig auf, zumindest am Anfang der Trennung, und bricht Gruppen von ko-adaptierten Genen auf, die für die Bildung neuer Arten benötigt werden. Es gibt auch Beispiele für genetische Divergenz und Artbildung in der Sympatrie, auch wenn dies weniger oft auftritt als in der allopatrischen Artbildung. Veränderungen werden durch Faktoren wie Veränderungen des Habitats, sexuelle Selektion und Polyploidie vorangetrieben, die Barrieren für den Austausch genetischer Informationen schaffen.

Die sympatrische Artbildung kann auftreten, wenn sich Gruppen einer Art entwickeln, um verschiedene Lebensräume oder Ressourcen im gleichen geografischen Gebiet zu nutzen. Zum Beispiel zeigen Unterarten des Mittel-Grundfinken, Geospiza fortis, die auf der Insel Santa Cruz auf den Galapagos-Inseln gefunden wurden, Anzeichen genetischer Divergenz aufgrund ihrer Schnabelgröße. Die Schnabelmorphologie dieser Art entspricht zwei unterschiedlichen Größenidealen-klein und groß-basierend auf der Größe und Härte der Samen, auf deren Verzehr sie sich spezialisiert haben (ein Beispiel für die Veränderung des Habitats). Aufgrund der natürlichen Selektion wurden dagegen Vögel mit mittlerer Schnabelgröße ausselektiert, da sie in geringerer Anzahl überlebten.

Neue Arten können auch durch Polyploidie erzeugt werden. Das ist ein Mechanismus, der bei Pflanzen relativ häufig vorkommt. Normalerweise wird dies durch zufällige Fehler bei der Zellteilung verursacht, die zu zusätzlichen Chromosomensätzen führen. Die so entstandenen polyploiden Hybride können sich wahrscheinlich nicht mit den diploiden Elternlinien paaren und produzieren stattdessen fruchtbare Nachkommen durch Selbstbestäubung oder durch Paarung mit anderen polyploiden Hybriden. Daher kann eine solche polyploide Artbildung neue Pflanzenarten in einer einzigen Generation hervorbringen. Analysen deuten darauf hin, dass 47% bis 100% aller blühenden Pflanzenarten auf ein polyploides Ereignis zu einem bestimmten Zeitpunkt in ihrer Evolutionsgeschichte zurückgeführt werden können.