Evolusi ikan dimulai sekitar 530 juta tahun lalu saat letusan Kambrium. Pada saat ini, chordata awal mengembangkan fitur tubuh berupa tengkorak dan koluma vertebra, yang mengarah kepada craniata dan vertebrata pertama. Garis keturunan ikan pertama merupakan Agnatha, atau ikan tak berahang. Contoh awal mencakup Haikouichthys. Selama periode Kambrium Akhir, ikan berahang mirip belut yang disebut dengan conodont, dan ikan kecil berzirah yang disebut dengan ostracodermi pertamakali muncul. Kebanyakan ikan tak berahang sekarang sudah punah; namun ikan lamprey yang masih hidup merupakan kerabat paling dekat dari jenis ikan ini. Lamprey ditempatkan pada Cyclostomata, yang juga mencakup ikan hag, yang paling awal berpisah dari garis keturunan agnatha lainnya.
Vertebrata berahang terawal kemungkinan berevolusi saat periode Ordovisium Akhir. Mereka pertamakali direpresentasikan pada catatan fosil dari periode Silur oleh dua kelompok ikan: Ikan berzirah yang dikenal dengan placodermi yang berevolusi dari ostracodermi; dan acanthodii (juga dikenal dengan sebutan "hiu berduri"). Ikan berahang yang masih hidup di masa kini juga muncul pada akhir periode Silur: Chondrichthyes (ikan bertulang rawan), dan Osteichthyes (ikan bertulang). Ikan bertulang berevolusi menjadi dua kelompok yang berbeda: Actinopterygii (atau ikan bersirip kipas) dan Sarcopterygii (yang mencakup ikan bersirip daging).
Selama periode Devon, terjadi peningkatan besar dari keanekaragaman ikan, terkhususnya pada ostracodermi dan placodermi, juga pada ikan bersirip daging dan hiu awal. Hal ini membuat periode Devon dikenal sebagai "zaman ikan". Dari kelompok ikan bersirip daging inilah tetrapoda berevolusi, yang sekarang diwakili oleh amfibi, reptil, mamalia dan burung. Tetrapoda transisi pertamakali muncul pada Devon awal, dan pada akhir Devon tetrapoda pertama muncul. Keanekaragaman dari vertebra berahang mungkin merupaka tanda dari kelebihan evolusioner dari mulut berahang; namun masih belum jelas apakah kelebihan ini disebabkan oleh kekuatan gigit yang lebih kuat, peningkatan sistem pernafasan, atau kombinasi faktor lainnya. Ikan bukan mewakili sebuah kelompok monofiletik, melainkan sebuah kelompok parafiletik, karena mereka mengecualikan tetrapoda.[2]