Industri AI Masih Rentan: Laporan Keamanan Memperingatkan Kesenjangan Besar

Fakta Baru - Peringatan ini berasal dari laporan AI Safety Index Summer 2026 oleh Future Life Research Institute, sebuah organisasi nirlaba yang menilai dan memberikan rekomendasi untuk mengurangi risiko besar bagi umat manusia, termasuk risiko dari kecerdasan buatan dan bioteknologi.

Laporan ini mengevaluasi 9 perusahaan AI teratas. Namun, bahkan perusahaan peringkat teratas hanya mencapai peringkat C+, yang menunjukkan bahwa seluruh industri masih memiliki banyak celah dalam hal keamanan dan manajemen risiko.

Yang perlu diperhatikan, area keamanan terhadap risiko AI yang lepas kendali mendapat skor terendah. Sebagian besar perusahaan hanya memperoleh nilai D atau F dalam kriteria ini. Ini dianggap sebagai paradoks yang mengkhawatirkan, karena banyak bisnis berlomba-lomba mengembangkan sistem AI canggih tetapi kurang memiliki rencana yang cukup meyakinkan untuk mengendalikan risiko jika sistem ini lepas kendali.

Laporan tersebut juga memperingatkan tentang tren yang semakin meningkat di mana perusahaan AI memperluas kolaborasi militer mereka, sementara beberapa komitmen keamanan sebelumnya menunjukkan tanda-tanda pelonggaran.

Rekomendasi tersebut menyarankan agar perusahaan perlu menetapkan ambang batas keselamatan tertentu, meningkatkan audit independen, dan lebih transparan mengenai insiden. Temuan ini menyoroti bahwa kesenjangan antara laju perkembangan AI dan kemampuan pengendalian keselamatan tetap menjadi tantangan signifikan bagi bisnis dan regulator.

Laporan ini menggunakan 37 indikator evaluasi bersama dengan panel ahli independen. Meskipun mungkin tidak komprehensif, laporan ini sekali lagi memperingatkan tentang kebutuhan mendesak akan mekanisme tata kelola yang lebih tepat waktu dan efektif untuk sistem AI canggih, baik di tingkat nasional maupun global.