Beberapa perusahaan teknologi seperti Microsoft dan Adobe telah menegaskan komitmen mereka untuk menghapus gambar telanjang dari sumber data yang digunakan untuk melatih produk AI mereka. Mereka juga berjanji untuk melindungi penyebaran pornografi deepfake. Melalui kesepakatan yang diselenggarakan oleh pemerintahan Biden, perusahaan teknologi Adobe, Anthropic, Cohere, Microsoft, dan OpenAI menyatakan bahwa mereka akan dengan sukarela menghapus gambar-gambar telanjang dari kumpulan data pelatihan AI jika diperlukan.
Pengumuman ini merupakan bagian dari upaya yang lebih luas untuk melawan pelecehan seksual berbasis gambar terhadap anak-anak dan pembuatan gambar porno deepfake AI orang dewasa. Kantor Kebijakan Sains dan Teknologi Gedung Putih menyatakan bahwa jumlah gambar semacam ini mengalami peningkatan yang signifikan dan sering kali menargetkan perempuan, anak-anak, serta orang-orang LGBTQI+. Penggunaan AI dalam hal ini dianggap sebagai salah satu yang paling berbahaya saat ini.
Common Crawl, sebuah repositori data yang sering digunakan dalam era AI, juga bergabung dalam komitmen melawan pornografi deepfake. Data open source di internet menjadi sumber utama untuk melatih chatbot AI dan generator gambar. Common Crawl bertekad untuk bertanggung jawab dalam pengawasan sumber datanya dan melindunginya dari pelecehan seksual berbasis gambar.
Selain itu, pada Kamis (12/9), sejumlah perusahaan lain seperti Bumble, Discord, Match Group, Meta, Microsoft, dan TikTok juga mengumumkan serangkaian prinsip sukarela untuk mencegah pelecehan seksual berbasis gambar. Ini menunjukkan bahwa semakin banyak perusahaan teknologi yang sadar akan pentingnya keamanan dan perlindungan terhadap pengguna mereka dalam menggunakan teknologi AI.
Dengan langkah-langkah ini, diharapkan dapat mengurangi risiko pelecehan seksual berbasis gambar dan penyebaran pornografi deepfake. Perusahaan-perusahaan teknologi telah menunjukkan komitmen mereka untuk bertanggung jawab dan melindungi pengguna mereka dari konten yang tidak pantas dan merugikan. Semoga langkah-langkah ini dapat membawa dampak positif dalam menjaga keamanan dan kenyamanan online bagi semua orang.