Uni Eropa ingatkan risiko AI berkembang di luar kendali manusia

Wakil Presiden Eksekutif Komisi Eropa untuk Kedaulatan Teknologi, Keamanan, dan Demokrasi Henna Virkkunen pada Selasa memperingatkan risiko kecerdasan buatan (AI) berkembang hingga berada di luar kendali manusia.

Virkkunen mengatakan kepada lembaga penyiaran Finlandia Yle bahwa Uni Eropa (EU) memandang kemungkinan manusia kehilangan kendali atas AI sebagai salah satu risiko keamanan paling serius.

“Teknologi-teknologi ini berkembang begitu cepat sehingga mekanisme perlindungan menjadi sangat diperlukan,” katanya.

Virkkunen menekankan perlunya memastikan teknologi tersebut beroperasi dalam batasan keamanan tertentu, dengan manusia tetap memegang kendali akhir.

Ia juga menyoroti pentingnya EU mengatasi berbagai potensi risiko melalui regulasi, dengan merujuk pada Undang-Undang Kecerdasan Buatan (AI Act) yang mewajibkan penyedia AI untuk terus menilai risiko dan mempertahankan mekanisme keselamatan yang telah ditetapkan.

“Saya tidak akan mengatakan bahwa saya takut terhadapnya, tetapi tentu saja ini merupakan risiko yang telah diperhitungkan dan harus terus diperhitungkan. Kita harus memastikan bahwa model AI aman serta terus dievaluasi dan diawasi, termasuk setelah memasuki pasar,” kata Virkkunen.

Ia kembali menekankan perlunya kerja sama internasional dan mengatakan para pelaku internasional turut mempertimbangkan regulasi yang diterapkan EU.

“Dengan cara ini, Eropa juga turut membantu menetapkan standar bagi AI,” katanya.