Awalnya, Olly dipercaya menjadi anggota Komisi XI.

Setahun kemudian, ia dipercaya menjabat Wakil Ketua Komisi XI.

Pemilu lima tahun kemudian, 2009, Olly lolos ke Senayan, sekaligus menempatkan dirinya di peringkat 7 yang mendapat suara terbanyak dari 560 anggota DPR terpilih.

Saat menjadi anggota DPR RI Periode 2009-2014, Olly menduduki kursi Wakil Ketua Badan Anggaran (Banggar) DPR-RI.

Tahun 2009, Olly mendapat kepercayaan partai sebagai Bendahara Fraksi PDIP di Senayan.

Pada 27 Agustus 2013, Olly didapuk menjadi Ketua Komisi XI DPR RI menggantikan Emir Moeis yang tersandung kasus korupsi.

Pada pemilu 2014, Olly ikut lagi sebagai Caleg. 

Olly terpilih dan duduk lagi di DPR RI periode 2014-2019. Saat itu, ia meraup 237.620 suara. 

Setelah duduk di DPR RI, Megawati Soekarno Putri mengamanatkan jabatan Ketua Fraksi PDIP ke pundak Olly tahun 2015.  

Setelah tiga periode menjabat di DPR RI, Olly mundur dari legislatif karena ikut konsentrasi pada kontestasi Pilgub Sulut. 

Ia memilih maju bersama Steven Kandouw sebagai calon Gubernur dan Wagub Sulut pada Pilkada Sulut 2016.

Pasangan ini diusung PDIP.

Hasilnya, Olly-Steven terpilih sebagai pemenang dengan memeroleh total 647.252 suara atau 51,41 persen.

ODSK berhasil menyisihkan kontestan lainnya yakni pasangan Maya Rumantir-Glenny Kairupan dan Benny Mamoto-David Bobihoe.

Saat itu Maya-Glenny diusung Partai Demokrat dan Gerindra.

Sedangkan pasangan Benny Mamoto-David Bobihoe Akib yang diusung Partai Golkar, PKS, dan PKPI.

Olly menjabat Gubernur Sulawesi Utara 2016 sampai dengan sekarang.