Olly Dondokambey mulai aktif dalam bidang politik tahun 2001 saat ia bergabung dengan PDIP.

Putra Minahasa itu, lalu menjadi caleg PDI Perjuangan pada Pemilu 2004. Sinar karier politiknya makin terang ketika ia lolos ke Senayan sebagai anggota DPR RI periode 2004-2009.

Awalnya, Olly dipercaya menjadi anggota Komisi XI.

Setahun kemudian, ia dipercaya menjabat Wakil Ketua Komisi XI.

Saat Pemilu 2009, Olly kembali lolos ke Senayan, sekaligus menempatkan dirinya di peringkat 7 yang mendapat suara terbanyak dari 560 anggota DPR terpilih.

Saat menjadi Anggota DPR RI Periode 2009-2014, Olly menduduki kursi Wakil Ketua Badan Anggaran (Banggar) DPR-RI.

Suami Rita Tumuntuan ini kembali lolos ke DPR RI dan tetap di Komisi XI.

Kali ini, ia juga dipercaya mengemban amanat sebagai Wakil Ketua Badan Anggaran DPR RI. 

Tahun 2009, Olly mendapat kepercayaan partai sebagai Bendahara Fraksi PDIP di Senayan.

Pada 27 Agustus 2013, Olly didapuk menjadi Ketua Komisi XI DPR RI menggantikan Emir Moeis yang tersandung kasus korupsi.

Pada pemilu 2014, Olly maju kembali sebagai Caleg. 

Olly terpilih dan duduk lagi di DPR RI periode 2014-2019. Saat itu ia meraup 237.620 suara. 

Setelah duduk di DPR RI, Megawati Soekarno Putri mengamanatkan jabatan Ketua Fraksi PDIP ke pundak Olly pada 2015.  

Setelah tiga kali menjabat di DPR RI, Olly mundur dari legislatif karena ikut konsentrasi pada kontestasi Pilgub Sulut.