Pakar kecerdasan buatan (AI) memperingatkan bahwa persaingan ketat di antara raksasa teknologi dapat meningkatkan penyalahgunaan sistem AI.

Melansir India Times, Yoshua Bengio, salah satu pionir AI modern yang kerap disebut sebagai ‘Godfather AI’, menyoroti risiko dari kemajuan pesat teknologi ini, terutama dengan munculnya DeepSeek, startup asal Tiongkok yang menantang dominasi AS.

Bengio menyampaikan kekhawatirannya atas laju perkembangan DeepSeek dan menegaskan perlunya perhatian lebih terhadap aspek keamanan serta etika dalam pengembangan AI.

Ia juga memperingatkan bahwa perusahaan-perusahaan AS mungkin mulai mengabaikan faktor keselamatan demi mengejar kembali keunggulan mereka.

Dalam wawancara dengan The Guardian, Bengio menjelaskan bahwa persaingan ketat justru memperburuk situasi dari segi keamanan AI.

“Jika satu pihak merasa jauh lebih unggul, mereka masih bisa lebih berhati-hati dan tetap berada di depan,” ujarnya.

Sebaliknya, jika dua pesaing berada di tingkat yang sama, maka keduanya akan terpaksa mempercepat pengembangan. Dalam kondisi seperti itu, faktor keamanan bisa terabaikan demi mencapai dominasi lebih cepat.

Laporan internasional pertama mengenai keamanan AI, yang dipimpin Bengio bersama 96 pakar lainnya, diumumkan dalam KTT Keamanan AI 2023 di Bletchley Park.

Laporan yang ditugaskan oleh pemerintah Inggris ini menyoroti risiko AI, termasuk potensi penggunaannya dalam serangan siber dan pengembangan senjata biologis.

Dokumen tersebut memperingatkan bahwa AI kini dapat menghasilkan instruksi perinci untuk menciptakan ancaman biologis yang melampaui keahlian para pakar.

Namun, masih belum pasti apakah teknologi ini akan berdampak besar bagi kalangan non-ahli.

Meski menyoroti risiko, laporan ini juga menekankan manfaat AI, khususnya dalam dunia medis. KTT global AI berikutnya dijadwalkan berlangsung pada Februari mendatang di Paris.

|CNBC Indonesia|