Satya Nadella Usulkan “Rem Darurat” untuk Sistem AI

Arsitektur kepercayaan perlu diubah

Satya Nadella menilai sistem AI tidak boleh diperlakukan sebagai rangkaian kotak hitam yang hasilnya hanya diterima atau ditolak. Ia mengusulkan pemisahan model dari lapisan yang mengatur pelaksanaan tugas.

Kontrol ditempatkan di luar model

Mekanisme pengaman harus memberi orang berwenang kemampuan menghentikan sementara atau mematikan AI di tengah pekerjaan. Nadella membandingkan fungsi tersebut dengan rem darurat.

Jejak tindakan harus bisa diaudit

Tindakan penting model perlu dicatat dengan bukti yang dapat dibaca manusia dan tidak dapat dimanipulasi. Pendekatan ini juga berangkat dari asumsi bahwa model mungkin telah disusupi sehingga perlu diisolasi sejak awal.