Industri teknologi butuh pedoman etika baru, kata whistleblower

Haugen memperingatkan bahwa kurangnya transparansi perusahaan teknologi besar akan menyebabkan penyimpangan etika

Frances Haugen, mantan whistleblower Facebook, mendesak industri teknologi untuk mengadopsi pedoman etika baru guna mengatasi meningkatnya kekhawatiran atas privasi dan keamanan di dunia digital. Berbicara di DataGrail Summit, ia membandingkan pergeseran moral perusahaan teknologi dengan tantangan navigasi yang dihadapi pelaut pada abad ke-16 dan ke-17, dengan menyatakan bahwa ekonomi tak berwujud saat ini membutuhkan 'Bintang Utara' modern untuk memandu arahnya.

Haugen mengambil pelajaran dari pengalamannya di Facebook , mengkritik perusahaan tersebut karena berulang kali mengutamakan keuntungan daripada kesejahteraan pengguna dalam keputusan seputar moderasi konten. Ia menyoroti perlunya transparansi yang lebih besar di platform media sosial, dengan menunjukkan bahwa banyak yang membutuhkan metrik keselamatan yang terukur, tidak seperti produsen mobil yang harus menghadapi pengujian keselamatan independen. Tanpa langkah-langkah tersebut, perusahaan teknologi dapat menghindari praktik etis tanpa konsekuensi.

Ia juga mengkritik keputusan Meta untuk menutup alat transparansi CrowdTangle dan memperingatkan tentang penolakan perusahaan teknologi terhadap pengawasan. Haugen menyatakan bahwa kurangnya transparansi merupakan inti dari masalah industri teknologi, dengan perusahaan hanya dimintai pertanggungjawaban atas kinerja keuangan, bukan dampaknya terhadap pengguna. Ia menyerukan tanggung jawab perusahaan yang lebih besar mengingat semakin banyaknya undang-undang privasi data.

Gugatan hukum terhadap Meta oleh lebih dari 40 negara bagian terkait dengan bahaya terhadap anak-anak merupakan langkah signifikan menuju regulasi yang lebih baik, kata Haugen dan dapat mengarah pada perubahan legislatif lebih lanjut. Ia menyerukan kolaborasi dalam industri untuk memastikan inovasi berjalan dengan aman dan bertanggung jawab, sehingga teknologi dapat memberikan dampak positif tanpa mengorbankan keselamatan pengguna.