OpenAI memiliki diumumkan perubahan signifikan pada praktik keselamatan dan keamanannya, termasuk pembentukan komite pengawasan dewan independen yang baru. Langkah ini disertai dengan perubahan penting: CEO Sam Altman tidak lagi menjadi bagian dari komite keselamatan, yang menandai perubahan dari struktur sebelumnya.
Komite Keselamatan dan Keamanan (SSC) yang baru dibentuk akan diketuai oleh Zico Kolter, Direktur Departemen Pembelajaran Mesin di Universitas Carnegie Mellon. Anggota penting lainnya termasuk CEO Quora Adam D’Angelo, pensiunan Jenderal Angkatan Darat AS Paul Nakasone, dan Nicole Seligman, mantan EVP dan Penasihat Umum Sony Corporation.
Komite baru ini menggantikan Komite Keselamatan dan Keamanan sebelumnya yang dibentuk pada bulan Juni 2024, yang juga melibatkan Altman sebagai salah satu anggotanya. Komite awal bertugas membuat rekomendasi mengenai keputusan keselamatan dan keamanan yang penting untuk proyek dan operasi OpenAI.
Tanggung jawab SSC kini melampaui sekadar rekomendasi. SSC akan memiliki kewenangan untuk mengawasi evaluasi keselamatan untuk peluncuran model utama dan melakukan pengawasan atas peluncuran model. Yang terpenting, komite akan memiliki kewenangan untuk menunda peluncuran hingga masalah keselamatan ditangani secara memadai.
Restrukturisasi ini mengikuti periode pengawasan ketat terkait komitmen OpenAI terhadap keselamatan AI. Perusahaan ini pernah menghadapi kritik di masa lalu karena membubarkan tim Superalignment dan kepergian personel utama yang berfokus pada keselamatan. Pemecatan Altman dari komite keselamatan tampaknya merupakan upaya untuk mengatasi kekhawatiran tentang potensi konflik kepentingan dalam pengawasan keselamatan perusahaan.
Inisiatif keselamatan terbaru OpenAI juga mencakup rencana untuk meningkatkan langkah-langkah keamanan, meningkatkan transparansi tentang pekerjaan mereka, dan berkolaborasi dengan organisasi eksternal. Perusahaan telah mencapai kesepakatan dengan Institut Keselamatan AI AS dan Inggris untuk berkolaborasi dalam meneliti risiko dan standar keselamatan AI yang muncul untuk AI yang dapat dipercaya.
