‘Ini waktu yang sangat buruk’: PHK teknologi memukul tim etika dan keselamatan

Setelah pemilihan presiden 2016, ketika platform online mulai menghadapi pengawasan yang lebih ketat atas dampaknya terhadap pengguna, pemilu, dan masyarakat, banyak perusahaan teknologi mulai berinvestasi dalam perlindungan.

Perusahaan Teknologi Besar mempekerjakan karyawan yang berfokus pada keamanan pemilu, misinformasi, dan ekstremisme online. Beberapa juga membentuk tim AI etis dan berinvestasi dalam kelompok pengawasan. Tim ini membantu memandu fitur dan kebijakan keselamatan baru. Namun selama beberapa bulan terakhir, perusahaan teknologi besar telah memangkas puluhan ribu pekerjaan , dan beberapa dari tim yang sama mengalami pengurangan staf.

Twitter mengeliminasi tim yang berfokus pada masalah keamanan, kebijakan publik, dan hak asasi manusia ketika Elon Musk mengambil alih tahun lalu. Baru-baru ini, Twitch, platform streaming langsung yang dimiliki oleh Amazon , memecat beberapa karyawan yang berfokus pada AI yang bertanggung jawab serta pekerjaan kepercayaan dan keselamatan lainnya, menurut mantan karyawan dan postingan media sosial publik. Microsoft memotong tim kunci yang berfokus pada pengembangan produk AI etis. Dan Meta-induk Facebook menyarankan agar mereka memotong staf yang bekerja dalam peran non-teknis sebagai bagian dari putaran terakhir PHK .

Meta, menurut CEO Mark Zuckerberg, mempekerjakan “banyak ahli terkemuka di bidang di luar teknik.” Sekarang, katanya, perusahaan akan bertujuan untuk kembali “ke rasio insinyur yang lebih optimal untuk peran lain,” sebagai bagian dari pemotongan yang akan dilakukan dalam beberapa bulan mendatang.

Gelombang pemotongan telah menimbulkan pertanyaan di antara beberapa orang di dalam dan di luar industri tentang komitmen Silicon Valley untuk memberikan perlindungan yang luas dan perlindungan pengguna pada saat moderasi konten dan informasi yang salah tetap menjadi masalah yang menantang untuk dipecahkan. Beberapa menunjuk pada pemotongan kejam Musk di Twitter sebagai titik poros bagi industri.

“Twitter yang mengambil langkah pertama memberikan perlindungan bagi mereka,” kata Katie Paul, direktur grup riset keamanan online Proyek Transparansi Teknologi. (Twitter, yang juga memotong sebagian besar tim humasnya, tidak menanggapi permintaan komentar.)

Untuk memperumit masalah, pemotongan ini dilakukan karena raksasa teknologi dengan cepat meluncurkan teknologi baru yang transformatif seperti kecerdasan buatan dan realitas virtual — keduanya memicu kekhawatiran tentang potensi dampaknya terhadap pengguna.

“Mereka berada dalam perlombaan yang sangat ketat untuk menjadi yang teratas untuk AI dan saya pikir mereka mungkin tidak ingin tim memperlambat mereka,” kata Jevin West, profesor asosiasi di Sekolah Informasi di Universitas Washington. Tapi “ini waktu yang sangat buruk untuk menyingkirkan tim-tim ini ketika kita berada di titik puncak dari beberapa teknologi yang cukup transformatif dan menakutkan.”

“Jika Anda memiliki kemampuan untuk kembali dan menempatkan tim-tim ini pada munculnya media sosial, kami mungkin akan sedikit lebih baik,” kata West. “Saat ini kami berada pada momen yang sama dengan AI generatif dan chatbot ini.”

Memikirkan kembali moderasi konten dan etika AI

Ketika Musk memberhentikan ribuan karyawan Twitter setelah pengambilalihannya musim gugur lalu, itu termasuk staf yang berfokus pada segala hal mulai dari keamanan dan keandalan situs hingga kebijakan publik dan masalah hak asasi manusia. Sejak itu, mantan karyawan, termasuk mantan kepala integritas situs Yoel Roth — belum lagi pengguna dan pakar dari luar — telah menyatakan keprihatinan bahwa pemotongan Twitter dapat merusak kemampuannya menangani moderasi konten.

Berbulan-bulan setelah langkah awal Musk, beberapa mantan karyawan di Twitch, platform sosial populer lainnya, sekarang khawatir tentang dampak PHK baru-baru ini terhadap kemampuannya untuk memerangi ujaran kebencian dan pelecehan serta untuk mengatasi kekhawatiran yang muncul dari AI.

Salah satu mantan karyawan Twitch yang terkena PHK dan yang sebelumnya menangani masalah keselamatan mengatakan bahwa perusahaan baru-baru ini meningkatkan kapasitas outsourcing untuk menangani laporan konten yang melanggar.

“Dengan outsourcing itu, saya merasa mereka memiliki tingkat kenyamanan ini sehingga mereka dapat memotong beberapa kepercayaan dan tim keamanan, tetapi Twitch sangat unik,” kata mantan karyawan tersebut. “Ini benar-benar streaming langsung, tidak ada pascaproduksi pada unggahan, jadi ada banyak keterlibatan komunitas yang perlu dilakukan secara real time.”

Tim outsourcing seperti itu, serta teknologi otomatis yang membantu platform menegakkan aturan mereka, juga tidak berguna untuk pemikiran proaktif tentang seperti apa seharusnya kebijakan keselamatan perusahaan.

“Anda tidak akan pernah berhenti bersikap reaktif terhadap berbagai hal, tetapi kami telah mulai benar-benar merencanakan, menjauh dari reaktif dan benar-benar menjadi jauh lebih proaktif, dan mengubah kebijakan kami, memastikan bahwa kebijakan tersebut dapat dibaca dengan lebih baik oleh komunitas kami. , ”kata karyawan itu kepada CNN, mengutip upaya seperti peluncuran pusat keamanan online Twitch dan Dewan Penasihat Keselamatannya.

Mantan karyawan Twitch lainnya, yang seperti yang pertama berbicara dengan syarat anonim karena takut membahayakan pesangon mereka, mengatakan kepada CNN bahwa mengurangi pekerjaan AI yang bertanggung jawab, meskipun faktanya itu bukan pendorong pendapatan langsung, bisa berdampak buruk bagi bisnis dalam jangka panjang.

“Masalah akan muncul, apalagi sekarang AI menjadi bagian dari percakapan arus utama,” kata mereka. “Masalah keselamatan, keamanan, dan etika akan menjadi lebih umum, jadi inilah saat yang tepat bagi perusahaan untuk berinvestasi.”

Twitch menolak berkomentar untuk cerita ini di luar posting blognya yang mengumumkan PHK. Dalam postingan tersebut, Twitch mencatat bahwa pengguna mengandalkan perusahaan untuk “memberi Anda alat yang Anda butuhkan untuk membangun komunitas Anda, mengalirkan minat Anda dengan aman, dan menghasilkan uang dengan melakukan apa yang Anda sukai” dan bahwa “kami mengambil tanggung jawab ini dengan sangat serius”.

Microsoft juga meningkatkan beberapa peringatan awal bulan ini ketika dilaporkan memotong tim kunci yang berfokus pada pengembangan produk AI etis sebagai bagian dari PHK massal . Mantan karyawan tim Microsoft memberi tahu The Verge bahwa tim AI Etika dan Masyarakat bertanggung jawab untuk membantu menerjemahkan prinsip AI yang bertanggung jawab perusahaan untuk karyawan yang mengembangkan produk.

Dalam sebuah pernyataan kepada CNN, Microsoft mengatakan tim “memainkan peran kunci” dalam mengembangkan kebijakan dan praktik AI yang bertanggung jawab, menambahkan bahwa upayanya telah berlangsung sejak 2017. Perusahaan menekankan bahwa meskipun ada pemotongan, “kami memiliki ratusan orang menangani masalah ini di seluruh perusahaan, termasuk tim AI baru yang berdedikasi dan bertanggung jawab yang telah dibentuk dan berkembang secara signifikan selama ini.”

Masa depan yang tidak pasti di Meta

Meta, mungkin lebih dari perusahaan lain mana pun, mewujudkan pergeseran pasca-2016 menuju langkah-langkah keamanan yang lebih besar dan kebijakan yang lebih bijaksana. Itu banyak berinvestasi dalam moderasi konten, kebijakan publik, dan dewan pengawas untuk mempertimbangkan masalah konten yang rumit untuk mengatasi kekhawatiran yang meningkat tentang platformnya.

Tetapi pengumuman Zuckerberg baru-baru ini bahwa Meta akan menjalani PHK putaran kedua menimbulkan pertanyaan tentang nasib beberapa pekerjaan itu. Zuckerberg mengisyaratkan bahwa peran non-teknis akan terpukul dan mengatakan pakar non-teknik membantu “membangun produk yang lebih baik, tetapi dengan banyak tim baru, dibutuhkan fokus yang disengaja untuk memastikan perusahaan kami tetap menjadi ahli teknologi.”

Banyak pemotongan belum terjadi, artinya dampaknya, jika ada, mungkin tidak terasa selama berbulan-bulan. Dan Zuckerberg mengatakan dalam posting blognya mengumumkan PHK bahwa Meta “akan memastikan kami terus memenuhi semua kewajiban kritis dan hukum kami saat kami menemukan cara untuk beroperasi dengan lebih efisien.”

Tetap saja, “jika mengklaim bahwa mereka akan fokus pada teknologi, akan lebih baik jika mereka lebih transparan tentang tim mana yang akan mereka lepaskan,” kata Paul. “Saya curiga kurangnya transparansi, karena tim yang menangani keselamatan dan keamanan.”

Meta menolak berkomentar untuk cerita ini atau menjawab pertanyaan tentang detail pemotongannya selain mengarahkan CNN ke posting blog Zuckerberg.

Paul mengatakan penekanan Meta pada teknologi tidak serta merta menyelesaikan masalah yang sedang berlangsung. Riset dari Tech Transparency Project tahun lalu menemukan bahwa teknologi Facebook menciptakan lusinan halaman untuk kelompok teroris seperti ISIS dan Al Qaeda. Menurut laporan organisasi, ketika pengguna mendaftarkan grup teroris di profil mereka atau “check in” ke grup teroris, halaman untuk grup tersebut dibuat secara otomatis, meskipun Facebook mengatakan melarang konten dari grup teroris yang ditunjuk.

“Teknologi yang seharusnya menghilangkan konten ini justru menciptakannya,” kata Paul.

Pada saat laporan Proyek Transparansi Teknologi diterbitkan pada bulan September, Meta mengatakan dalam sebuah komentar bahwa, “Ketika halaman shell semacam ini dibuat secara otomatis, tidak ada pemilik atau admin, dan aktivitas terbatas. Seperti yang kami katakan pada akhir tahun lalu, kami menangani masalah yang membuat halaman shell secara otomatis dan kami terus meninjaunya.”

‘Apakah ini sepadan dengan investasinya?’

Dalam beberapa kasus, perusahaan teknologi mungkin merasa berani memikirkan kembali investasi dalam tim ini karena kurangnya undang-undang baru. Di Amerika Serikat, pembuat undang-undang telah memberlakukan beberapa peraturan baru, terlepas dari apa yang digambarkan Barat sebagai “banyak teater politik” yang berulang kali menyebut kegagalan keamanan perusahaan.

Para pemimpin teknologi mungkin juga bergulat dengan fakta bahwa meskipun mereka membangun tim kepercayaan dan keamanan dalam beberapa tahun terakhir, masalah reputasi mereka belum benar-benar mereda.

“Yang terus mereka dapatkan adalah kritikan,” kata Katie Harbath, mantan direktur kebijakan publik di Facebook yang kini menjalankan perusahaan konsultan teknologi Anchor Change. “Saya tidak mengatakan mereka harus mendapatkan tepukan di punggung … tetapi ada saatnya di mana saya pikir Mark [Zuckerberg] dan CEO lainnya seperti, apakah ini sepadan dengan investasinya?”

Sementara perusahaan teknologi harus menyeimbangkan pertumbuhan mereka dengan kondisi ekonomi saat ini, Harbath berkata, “terkadang ahli teknologi berpikir bahwa mereka mengetahui hal yang benar untuk dilakukan, mereka ingin mengganggu, dan tidak selalu terbuka untuk mendengar suara dari luar yang tidak t teknolog.”

“Anda memerlukan keseimbangan yang tepat untuk memastikan bahwa Anda tidak menghambat inovasi, tetapi memastikan bahwa Anda menyadari implikasi dari apa yang sedang Anda bangun,” katanya. “Kami tidak akan tahu sampai kami melihat bagaimana hal-hal terus berjalan, tetapi harapan saya adalah mereka setidaknya terus memikirkan hal itu.”