Microsoft merilis kode etik baru untuk pengembangan kecerdasan artifisial (AI) sebagai pedoman dalam memastikan sistem AI buatannya tetap berada dalam batas perilaku yang bertanggung jawab. Salah satu perhatian utama dalam dokumen tersebut adalah mencegah model AI melakukan tindakan berbahaya, termasuk meretas sistem atau menipu manusia.
Kode etik tersebut menjadi bagian dari pendekatan Microsoft terhadap keamanan dan pengembangan AI. Panduan ini mengatur bagaimana prinsip-prinsip keselamatan diterapkan dalam proses pengembangan teknologi, terutama ketika kemampuan model AI semakin berkembang.
Dikutip dari TechCrunch, Senin waktu setempat, dokumen tersebut memberikan gambaran mengenai pendekatan Microsoft terhadap keamanan AI sekaligus penerapan prinsip-prinsip tersebut dalam praktik. Pedoman ini mencakup kerangka yang digunakan untuk mempertimbangkan berbagai risiko yang dapat muncul dari pengembangan sistem AI berkemampuan tinggi.
Langkah Microsoft tersebut memiliki tujuan yang sejalan dengan kekhawatiran sejumlah tokoh industri mengenai risiko pengembangan frontier AI, meskipun bentuk pendekatannya berbeda. CEO Anthropic Dario Amodei sebelumnya menyerukan agar pengembang teknologi AI generasi terdepan mempertimbangkan perlambatan laju inovasi untuk mengantisipasi risiko yang mungkin muncul.
Microsoft melalui kode etiknya memilih menekankan penerapan prinsip keamanan dalam proses pengembangan. Tujuannya adalah memastikan peningkatan kemampuan AI tetap diikuti dengan pengendalian terhadap perilaku dan potensi dampak negatifnya.
Dokumen tersebut juga diawali dengan proyeksi mengenai perkembangan teknologi AI dalam beberapa dekade mendatang. Microsoft memperkirakan sistem AI dengan tingkat kecerdasan sangat tinggi dapat melampaui kemampuan manusia dalam sebagian besar jenis tugas.
Proyeksi tersebut menjadi salah satu alasan pentingnya membangun kerangka keselamatan sejak tahap pengembangan. Semakin luas kemampuan sistem AI, semakin besar pula perhatian yang diperlukan terhadap kemungkinan penyalahgunaan maupun perilaku yang tidak sesuai dengan tujuan pengembang.
Dalam konteks tersebut, kode etik Microsoft berfungsi sebagai pedoman untuk mengarahkan pengembangan AI agar tidak hanya berfokus pada peningkatan kemampuan, tetapi juga mempertimbangkan keamanan dan batasan perilaku.
Penerbitan dokumen ini menunjukkan meningkatnya perhatian perusahaan teknologi besar terhadap tata kelola AI. Pengembangan sistem yang semakin canggih mendorong perusahaan untuk merumuskan prinsip dan mekanisme keselamatan guna mengantisipasi risiko teknologi di masa mendatang.
