New York
CNN
—
Selepas pilihan raya presiden 2016, apabila platform dalam talian mula menghadapi penelitian yang lebih besar untuk kesannya terhadap pengguna, pilihan raya dan masyarakat, banyak firma teknologi mula melabur dalam perlindungan.
Syarikat Teknologi Besar membawa pekerja yang tertumpu pada keselamatan pilihan raya, maklumat salah dan ekstremisme dalam talian. Ada juga yang membentuk pasukan AI yang beretika dan melabur dalam kumpulan pengawasan. Pasukan ini membantu membimbing ciri dan dasar keselamatan baharu. Tetapi sejak beberapa bulan lalu, syarikat teknologi besar telah mengurangkan puluhan ribu pekerjaan, dan beberapa pasukan yang sama mengalami pengurangan kakitangan.
Twitter menghapuskan pasukan yang memberi tumpuan kepada keselamatan, dasar awam dan isu hak asasi manusia apabila Elon Musk mengambil alih tahun lepas. Baru-baru ini, Twitch, platform penstriman langsung yang dimiliki oleh Amazon, memberhentikan beberapa pekerja yang memberi tumpuan kepada AI yang bertanggungjawab dan kerja amanah dan keselamatan yang lain, menurut bekas pekerja dan siaran media sosial awam. Microsoft memotong pasukan utama yang memberi tumpuan kepada pembangunan produk AI beretika. Dan Meta induk Facebook mencadangkan bahawa ia mungkin mengurangkan kakitangan yang bekerja dalam peranan bukan teknikal sebagai sebahagian daripada pusingan pemberhentian terbarunya.
Meta, menurut Ketua Pegawai Eksekutif Mark Zuckerberg, mengupah “ramai pakar terkemuka dalam bidang di luar kejuruteraan.” Kini, katanya, syarikat itu akan menyasarkan untuk kembali “kepada nisbah jurutera yang lebih optimum kepada peranan lain,” sebagai sebahagian daripada pemotongan yang akan berlaku dalam beberapa bulan akan datang.
Gelombang pemotongan telah menimbulkan persoalan di kalangan sesetengah pihak di dalam dan di luar industri tentang komitmen Silicon Valley untuk menyediakan pagar penghadang yang meluas dan perlindungan pengguna pada masa penyederhanaan kandungan dan maklumat yang salah masih menjadi masalah yang mencabar untuk diselesaikan. Ada yang menunjuk kepada pemotongan kejam Musk di Twitter sebagai titik pangsi untuk industri.
“Twitter membuat langkah pertama menyediakan perlindungan untuk mereka,” kata Katie Paul, pengarah kumpulan penyelidikan keselamatan dalam talian Projek Ketelusan Teknologi. (Twitter, yang juga memotong sebahagian besar pasukan perhubungan awamnya, tidak menjawab permintaan untuk komen.)
Untuk merumitkan keadaan, pemotongan ini berlaku apabila gergasi teknologi sedang melancarkan teknologi baharu transformatif dengan pantas seperti kecerdasan buatan dan realiti maya — kedua-duanya telah mencetuskan kebimbangan tentang potensi kesannya terhadap pengguna.
“Mereka berada dalam perlumbaan yang sangat ketat untuk mencapai puncak AI dan saya fikir mereka mungkin tidak mahu pasukan memperlahankan mereka,” kata Jevin West, profesor bersekutu di Sekolah Maklumat di Universiti Washington. Tetapi “ia adalah masa yang teruk untuk menyingkirkan pasukan ini apabila kita berada di puncak beberapa teknologi yang agak transformatif dan menakutkan.”
“Jika anda mempunyai keupayaan untuk kembali dan meletakkan pasukan ini pada kemunculan media sosial, kami mungkin akan lebih baik sedikit,” kata West. “Kami berada pada saat yang sama sekarang dengan AI generatif dan chatbots ini.”
Apabila Musk memberhentikan ribuan pekerja Twitter berikutan pengambilalihannya pada musim gugur lalu, ia termasuk kakitangan yang memberi tumpuan kepada segala-galanya daripada keselamatan dan kebolehpercayaan tapak kepada dasar awam dan isu hak asasi manusia. Sejak itu, bekas pekerja, termasuk bekas ketua integriti tapak Yoel Roth — apatah lagi pengguna dan pakar luar — telah menyatakan kebimbangan bahawa pemotongan Twitter boleh menjejaskan keupayaannya untuk mengendalikan penyederhanaan kandungan.
Beberapa bulan selepas langkah awal Musk, beberapa bekas pekerja di Twitch, satu lagi platform sosial popular, kini bimbang tentang kesan pemberhentian baru-baru ini terhadap keupayaannya untuk memerangi ucapan benci dan gangguan serta menangani kebimbangan yang timbul daripada AI.
Seorang bekas pekerja Twitch yang terjejas akibat pemberhentian dan yang sebelum ini bekerja dalam isu keselamatan berkata syarikat itu baru-baru ini meningkatkan kapasiti penyumberan luar untuk menangani laporan kandungan yang melanggar.
“Dengan penyumberan luar itu, saya rasa mereka mempunyai tahap keselesaan ini yang mereka boleh mengurangkan beberapa kepercayaan dan pasukan keselamatan, tetapi Twitch sangat unik,” kata bekas pekerja itu. “Ia benar-benar penstriman langsung, tiada pasca produksi pada muat naik, jadi terdapat banyak penglibatan komuniti yang perlu berlaku dalam masa nyata.”
Pasukan penyumberan luar sedemikian, serta teknologi automatik yang membantu platform menguatkuasakan peraturan mereka, juga tidak begitu berguna untuk pemikiran proaktif tentang dasar keselamatan syarikat yang sepatutnya.
“Anda tidak akan berhenti untuk menjadi reaktif terhadap sesuatu, tetapi kami telah mula benar-benar merancang, menjauhkan diri daripada reaktif dan benar-benar menjadi lebih proaktif serta mengubah dasar kami, memastikan ia membaca dengan lebih baik kepada komuniti kami ,” pekerja itu memberitahu CNN, memetik usaha seperti pelancaran pusat keselamatan dalam talian Twitch dan Majlis Penasihat Keselamatannya.
Seorang lagi bekas pekerja Twitch, yang seperti yang pertama bercakap dengan syarat tidak mahu namanya disiarkan kerana takut meletakkan pemecatan mereka berisiko, memberitahu CNN bahawa mengurangkan kerja AI yang bertanggungjawab, walaupun pada hakikatnya ia bukan pemacu pendapatan langsung, boleh menjadi buruk bagi perniagaan dalam jangka masa panjang.
“Masalah akan timbul, terutamanya kini AI menjadi sebahagian daripada perbualan arus perdana,” kata mereka. “Isu keselamatan, keselamatan dan etika akan menjadi lebih berleluasa, jadi ini sebenarnya masa yang tepat untuk syarikat melabur.”
Twitch enggan mengulas untuk cerita ini di luar catatan blognya yang mengumumkan pemberhentian. Dalam siaran itu, Twitch menyatakan bahawa pengguna bergantung pada syarikat untuk “memberi anda alat yang anda perlukan untuk membina komuniti anda, menstrimkan minat anda dengan selamat, dan membuat wang melakukan perkara yang anda suka” dan bahawa “kami mengambil tanggungjawab ini dengan sangat serius.”
Microsoft juga menimbulkan beberapa penggera awal bulan ini apabila ia dilaporkan memotong pasukan utama yang memberi tumpuan kepada pembangunan produk AI beretika sebagai sebahagian daripada pemberhentian besar-besarannya. Bekas pekerja pasukan Microsoft memberitahu The Verge bahawa pasukan AI Etika dan Masyarakat bertanggungjawab untuk membantu menterjemahkan prinsip AI yang bertanggungjawab bagi pekerja yang membangunkan produk.
Dalam satu kenyataan kepada CNN, Microsoft berkata pasukan itu “memainkan peranan penting” dalam membangunkan dasar dan amalan AI yang bertanggungjawab, sambil menambah bahawa usahanya telah berterusan sejak 2017. Syarikat itu menekankan bahawa walaupun dengan pemotongan itu, “kami mempunyai ratusan orang mengusahakan isu-isu ini di seluruh syarikat, termasuk pasukan AI yang berdedikasi baharu dan bertanggungjawab yang sejak itu telah ditubuhkan dan berkembang dengan ketara pada masa ini.”
Meta, mungkin lebih daripada mana-mana syarikat lain, merangkumi peralihan pasca 2016 ke arah langkah keselamatan yang lebih besar dan dasar yang lebih bertimbang rasa. Ia melabur banyak dalam penyederhanaan kandungan, dasar awam dan lembaga pengawasan untuk mempertimbangkan isu kandungan rumit untuk menangani kebimbangan yang semakin meningkat tentang platformnya.
Tetapi pengumuman Zuckerberg baru-baru ini bahawa Meta akan menjalani pemberhentian pusingan kedua menimbulkan persoalan tentang nasib beberapa kerja itu. Zuckerberg membayangkan bahawa peranan bukan teknikal akan mendapat kesan dan berkata pakar bukan kejuruteraan membantu “membina produk yang lebih baik, tetapi dengan banyak pasukan baharu ia memerlukan tumpuan yang disengajakan untuk memastikan syarikat kami kekal sebagai ahli teknologi.”
Banyak pemotongan masih belum berlaku, bermakna kesannya, jika ada, mungkin tidak dirasai selama berbulan-bulan. Dan Zuckerberg berkata dalam catatan blognya mengumumkan pemberhentian kerja bahawa Meta “akan memastikan kami terus memenuhi semua kewajipan kritikal dan undang-undang kami sambil kami mencari cara untuk beroperasi dengan lebih cekap.”
Namun, “jika ia mendakwa bahawa mereka akan memberi tumpuan kepada teknologi, adalah bagus jika mereka akan lebih telus tentang pasukan yang mereka lepaskan,” kata Paul. “Saya mengesyaki bahawa terdapat kekurangan ketelusan, kerana pasukan yang berurusan dengan keselamatan dan keselamatan.”
Meta enggan mengulas untuk cerita ini atau menjawab soalan mengenai butiran pemotongannya selain menunjuk CNN ke catatan blog Zuckerberg.
Paul berkata, penekanan Meta pada teknologi tidak semestinya menyelesaikan isu-isu berterusannya. Penyelidikan daripada Projek Ketelusan Teknologi tahun lepas mendapati bahawa teknologi Facebook mencipta berpuluh-puluh halaman untuk kumpulan pengganas seperti ISIS dan Al Qaeda. Menurut laporan organisasi itu, apabila pengguna menyenaraikan kumpulan pengganas pada profil mereka atau “mendaftar masuk” ke kumpulan pengganas, halaman untuk kumpulan itu dijana secara automatik, walaupun Facebook mengatakan ia melarang kandungan daripada kumpulan pengganas yang ditetapkan.
“Teknologi yang sepatutnya mengalih keluar kandungan ini sebenarnya menciptanya,” kata Paul.
Pada masa laporan Projek Ketelusan Teknologi diterbitkan pada bulan September, Meta berkata dalam ulasan bahawa, “Apabila halaman shell jenis ini dijana secara automatik, tiada pemilik atau pentadbir, dan aktiviti terhad. Seperti yang kami katakan pada penghujung tahun lepas, kami menangani isu yang menjana halaman shell secara automatik dan kami terus menyemaknya.”
Dalam sesetengah kes, firma teknologi mungkin berasa berani untuk memikirkan semula pelaburan dalam pasukan ini dengan kekurangan undang-undang baharu. Di Amerika Syarikat, penggubal undang-undang telah mengenakan beberapa peraturan baharu, walaupun apa yang disifatkan Barat sebagai “banyak teater politik” dalam berulang kali menyeru kegagalan keselamatan syarikat.
Pemimpin teknologi juga mungkin bergelut dengan hakikat bahawa walaupun mereka membina pasukan kepercayaan dan keselamatan mereka dalam beberapa tahun kebelakangan ini, masalah reputasi mereka tidak benar-benar reda.
“Apa yang mereka terus dapat dikritik,” kata Katie Harbath, bekas pengarah dasar awam di Facebook yang kini menjalankan firma perunding teknologi Anchor Change. “Saya tidak mengatakan mereka harus mendapat tepukan di belakang … tetapi ada satu masa di mana saya fikir Mark [Zuckerberg] dan CEO lain seperti, adakah ini bernilai pelaburan?”
Walaupun syarikat teknologi mesti mengimbangi pertumbuhan mereka dengan keadaan ekonomi semasa, Harbath berkata, “kadangkala ahli teknologi berfikir bahawa mereka tahu perkara yang betul untuk dilakukan, mereka mahu mengganggu perkara, dan tidak selalu terbuka untuk mendengar daripada suara luar yang ‘ t ahli teknologi.”
“Anda memerlukan keseimbangan yang betul untuk memastikan anda tidak menyekat inovasi, tetapi memastikan bahawa anda sedar tentang implikasi daripada apa yang anda sedang bina,” katanya. “Kami tidak akan tahu sehingga kami melihat bagaimana keadaan terus bergerak ke hadapan, tetapi harapan saya ialah mereka sekurang-kurangnya terus memikirkan perkara itu.”
