Mengapa 'Kill Switch' AI Tak Sesederhana Kelihatannya

Pertanyaan mengenai apakah AI yang terlalu kuat dapat dimatikan dengan mudah menjadi semakin mendesak setelah munculnya peringatan keras dari industri mengenai ancaman eksistensial dari model AI canggih. Para pembuat kebijakan di AS mulai mendorong kewajiban bagi perusahaan AI untuk memiliki kemampuan mematikan sistem secara menyeluruh. Gubernur California Gavin Newsom menandatangani perintah eksekutif pada September yang mewajibkan pejabat negara bagian mengkaji aturan yang mengharuskan perusahaan AI menciptakan kill switch untuk model AI terdepan. Namun, para ahli menilai bahwa menghentikan operasi model AI canggih tidak sesederhana hanya menekan tombol. Hal ini menunjukkan kompleksitas teknis dan tantangan dalam menciptakan mekanisme penghentian darurat yang benar-benar efektif untuk sistem AI yang terus berkembang.