Dalam proses transmisinya, serat optik mengalami efek linier dan efek non linier. Efek non linier pada serat optik disebabkan oleh Kerr Effect dan Inelastic Scattering. Untuk menangani gangguan linier dan nonlinier, format modulasi yang optimal menjadi solusinya.
Pada tugas akhir ini dibuat pemodelan link FTTH pada software Optisystem untuk mengetahui pengaruh dari Kerr Effect dengan membandingkan performansi serat optik kaca dan serat optik plastik berdasarkan format modulasi berupa NRZ, RZ, RZ DPSK, RZ DQPSK dan CSRZ sebagai input pada modulator Mach Zehnder. Pada penelitian ini terdapat dua skenario, dengan skenario pertama, variabel input yang diubah adalah format modulasi pada Mach Zehnder, sedangkan pada skenario kedua, variabel yang diubah adalah pemakaian serat optik yang dipakai, yaitu serat optik bahan kaca, plastik dan hybrid kaca plastik.
Hasil simulasi menunjukkan berdasarkan perbandingan lima format modulasi dengan efek linier dan nonlinier pada kabel kaca urutan nilai Q factor dari yang terbesar adalah NRZ dengan nilai 65,51885, RZ dengan nilai 51,75991714, RZDPSK dengan nilai 14,2882614, CSRZ dengan nilai 11,54402293 dan RZDQPSK dengan nilai 9,2267233. Sedangkan penggunaan kabel PMMA yang menghasilkan Q factor di atas 6 pada simulasi adalah dengan konfigurasi G652D-G652D-PMMA pada format modulasi NRZ, RZ, RZDPSK dan RZDQPSK. Efek Four Wave Mixing (FWM) tidak muncul dalam perancangan FTTH. Perubahan nilai indeks bias non-linier (n2¬) sangat berpengaruh terhadap performansi jaringan, semakin besar nilai indeks bias non-linier maka performansi jaringan akan semakin menurun. Pada serat optik kaca terjadi penurunan kualitas transmisi saat diberi efek XPM sedangkan pada serat optik plastik terjadi peningkatan kualitas transmisi saat diberi efek XPM pada CSRZ, RZ, RZDPSK, RZDQPSK, dan sebaliknya pada format modulasi NRZ terjadi penurunan kualitas transmisi saat diberi efek XPM.