Lahir di Tartu, Ansip mendapatkan pendidikan di Universitas Tartu dan mendapatkan gelar dalam bidang ilmu kimia pada tahun 1979. Sebelum terjun ke dalam politik, Ansip pernah terlibat dalam sejumlah usaha perbankan dan modal ventura. Ia pernah menjadi anggota Dewan Direktur untuk Bank Rakyat Tartu (Rahvapank), Ketua Dewan Privatisasi Livonia IF dan CEOFondiinvesteeringu Maakler AS. Ia juga menjabat sebagai Ketua Dewan untuk Radio Tartu.
Wali kota Tartu
Pada 1998, Ansip terpilih sebagai Wali kotaTartu dari calon radikal pasar Reformierakond, yang dipegangnya hingga 2004, dengan popularitas dan peringkat yang tinggi. Sebelumnya ia pernah mencalonkan diri dalam pemilihan Riigikogu (Parlemen Estonia), namun ia selalu melepaskan jabatannya agar dapat tetap bertahan sebagai wali kota.
Ketua Reformierakond dan Menteri Ekonomi
Pada 21 November2004, Ansip menjadi Ketua Reformierakond karena pendiri partai itu dan kemudian menjadi ketuanya, bekas Perdana Menteri Siim Kallas, telah menjadi Komisioner di Uni Eropa dan Wakil Presiden sehingga ia harus pindah ke Brussel. Jelas bahwa Ansip harus pindah ke Tallinn dan kesempatan terbuka ketika Menteri Urusan Ekonomi dan Komunikasi dalam pemerintahan koalisi di bawah Juhan Parts, Meelis Atonen, seorang rekannya di partai, harus mengundurkan diri. Ansip menjadi penggantinya pada 13 September 2004. Pengalamannya sebagai menteri lebih sulit dievaluasi karena masa kerjanya yang terlalu singkat.
Perdana Menteri
Pada 31 Maret2005, Ansip ditugasi oleh Presiden EstoniaArnold Rüütel untuk membentuk pemerintahan, setelah Perdana Menteri Juhan Parts melepaskan jabatan itu pada 24 Maret2005. Ansip dapat membentuk sebuah koalisi dengan Keskerakond ("Partai Tengah", populis) dan Rahvaliit ("Partai Rakyat", pedesaan), yang disetujui oleh Riigikogu pada 12 April2005. Dengan demikian Ansip menjadi Perdana Menteri Estonia. Ia didukung oleh 53 dari 101 anggota parlemen Estonia. Empat puluh anggota memberikan suara menentang. Ia dan para menteri diresmikan ke dalam jabatan mereka pada hari berikutnya, 13 April 2005.
Kabinet
Kabinet baru, yang disahkan oleh Riigikogu sejak 12 April2005 adalah sebagai berikut:
Reformierakond
Perdana Menteri Andrus Ansip
Menteri Luar Negeri Urmas Paet (sebelumnya Menteri Kebudayaan; jurnalis)
Menteri Pertahanan Jaak Jõerüüt (kini telah mengundurkan diri)
Menteri Regional Jaan Õunapuu (sebelumnya sudah menduduki jabatan ini)
Konsensus umum di media Estonia tampaknya ialah bahwa kabinet yang baru, pada tingkat kompetensinya, tidak dengan sendirinya lebih baik daripada yang lama, kecuali dalam posisi-posisi kunci, yaitu Menteri Kehakiman dan Menteri Keuangan. Pemerintahan baru kadang-kadang disebut "koalisi komunis", mengacu kepada ketiga pemimpin koalisi yang berafiliasi dengan partai pada era Soviet atau, istilah lainnya ialah "koalisi bawang putih", karena kesepakatan antara para pemimpin partai ini dicapai di sebuah Restoran di Tallinn yang menghidangkan menu khusus dengan bawang putih.