IMD Perkenalkan "Jam" Keamanan AI, Software Pengukur Risiko AI

Beritasaja.com - teknologi terbaru kecerdasan buatan/artificial intelligence (AI) menjadi tren saat ini.Implementasinya masif digunakan di segala sektor.

Di sisi lain, AI juga menyimpan risiko ancaman di masa depan.

Hal ini lah yang menjadi alasan Institute of Management Development () dan tim ahli dari TONOMUS Global Center for Digital and AI Transformation membuat software bernama Jam keamanan nasional AI ().

Jangan bayangkan "jam" ini berupa perangkat arloji atau jam dinding.

"Jam" ini adalah tools berupa software untuk menganalisis risiko yang ditimbulkan AI di masa depan.

Jam ini akan menjadi indikator seberapa tinggi risiko perkembangan Artificial General Intelligence/AGI yang berpotensi menjadi tidak terkendali.

AGI adalah konsep AI yang dianggap lebih tinggi dari "sekadar" AI.

konsep ini menggambarkan sistem AI yang bisa beroperasi mandiri tanpa bantuan dan pengawasan manusia.

Baca juga:

Tujuannya, hasil produk AGI bisa menyelesaikan aneka tugas dengan tingkat kecerdasan yang setara dengan, atau bahkan melebihi manusia.

Kemampuan ini pun menimbulkan kekhawatiran.

"Tujuan saya, saya ingin memperjelas bahwa bahaya AGI yang tak terkendali nyata dan ada," kata Michael Wade, Director Global Center for Digital Business Transformation IMD, sekaligus Director of the TONOMUS Global Center for Digital and AI Transformation, melansir dari Time.

Jam keselamatan AI ini didukung dashboard proprietary, yakni software manajemen informasi yang digunakan untuk mengumpulkan, melacak, menganalisis, dan memvisualisasikan data yang relevan.

Dashboard Proprietary memantau perkembangan teknologi informasi dan regulasi dari lebih 1.000 situs web dan 3.470 sumber berita terkait AI untuk memberikan insight secara real-time dan bisa terus memantau kemajuan perangkat secara berkala.

Tools ini menunjukkan waktu "29 menit dari tengah malam" yang merupakan simbolik seberapa dekat manusia dengan titik kritis ancaman AGI.

Semakin tinggi tingkat risiko, maka akan semakin dekat pula dengan "tengah malam" atau titik kritis.

Jam ini dibagi menjadi empat bagian berdasarkan skala risiko.

Mulai dari seperempat awal ke satu putaran penuh (searah jarum jam), dimulai dari risiko rendah, risiko moderat, risiko tinggi, dan risiko kritis.

“perkembangan AGI saat ini kita sedang beralih dari fase risiko sedang ke risiko tinggi.

Ketika perkembagan AGI menjadi kritis dan tidak terkendali, hal itu akan menjadi musibah bagi umat manusia.

Risikonya serius, tetapi belum terlambat untuk bertindak,” jelas Wade, dalam keterangan resmi yang diterima BeritasajaTekno.

Ketika AGI tidak bisa lagi dikontrol oleh manusia, beberapa hal yang dikhawatirkan seperti AI digunakan untuk memanipulasi atau mengganggu pasar keuangan, digunakan untuk mengganggu insfrastruktur penting, seperti energi fosil, transportasi darat, bicara, dll.

Selain itu, AI juga dikhawatirkan akan digunakan untuk memanipulasi dan mengganggu sistem perpolitikan, jaringan sosial, dan ekosistem biologis dan lingkugan, bahkan ancaman langsung bagi nyawa manusia.