OpenAI dan Anthropic menandatangani kesepakatan keamanan AI

Institut Keamanan AI AS akan memperoleh akses awal ke model AI baru dari OpenAI dan Anthropic berdasarkan kesepakatan yang bertujuan untuk menilai.

Perusahaan rintisan AI OpenAI dan Anthropic telah sepakat dengan Institut Keamanan Kecerdasan Buatan AS untuk berkolaborasi dalam penelitian, pengujian, dan evaluasi model AI canggih mereka. Kesepakatan ini muncul seiring meningkatnya pengawasan regulasi atas pengembangan AI yang aman dan etis di seluruh industri teknologi.

Perjanjian tersebut memungkinkan Institut Keamanan AI AS mengakses lebih awal model-model AI baru yang signifikan dari kedua perusahaan sebelum dan sesudah peluncurannya. Kemitraan tersebut akan mengevaluasi kemampuan dan potensi risiko mereka serta memberikan umpan balik tentang peningkatan keselamatan. Kepala strategi OpenAI, Jason Kwon, mendukung inisiatif tersebut, dengan menyebutkan pentingnya inisiatif tersebut dalam menetapkan kerangka kerja global untuk keselamatan AI.

Anthropic, yang didukung oleh Amazon dan Alphabet, tidak segera mengomentari kesepakatan tersebut. Institut Keamanan AI AS juga bekerja sama erat dengan mitranya di Inggris untuk memastikan kolaborasi internasional terkait keamanan AI. Institut tersebut didirikan sebagai bagian dari perintah eksekutif Presiden Biden untuk mengatasi risiko yang terkait dengan teknologi AI yang sedang berkembang.