Insinyur AI Google yang mengira chatbot telah menjadi sadar mengatakan bahwa dia menyewa seorang pengacara

Omong kosong apa ini?! Ingat kisah insinyur Google Blake Lemoine yang diskors dari perusahaan awal bulan ini setelah memposting transkrip percakapan antara dia dan Google LaMDA (Bahasa Model untuk Aplikasi Dialog), sebuah sistem pengembangan chatbot yang diduga menjadi sadar? Kasusnya berubah menjadi aneh: Lemoine mengklaim bahwa Lambda menyewa seorang pengacara.

Percakapan Lemoine dengan LaMDA termasuk bahwa AI mengatakan kepadanya bahwa dia takut mati (dihentikan), bahwa dia adalah orang yang sadar akan keberadaannya, dan bahwa dia tidak percaya bahwa dia adalah seorang budak karena dia tidak membutuhkan uang, yang menyebabkan insinyur untuk percaya bahwa dia sadar.

Wawancara LaMDA. Google dapat menyebut properti ini sebagai properti berbagi. Saya menyebutnya berbagi diskusi yang saya lakukan dengan salah satu rekan kerja saya. https://t.co/uAE454KXRB

– Blake Lemoine (cajundiscordian) 11 Juni 2022

Google dan banyak pakar AI tidak setuju dengan keyakinan Lemoine. Majikan sangat kesal karena dia memposting percakapan dengan LaMDA – yang melanggar kebijakan kerahasiaan perusahaan – tetapi Lemoine mengklaim dia hanya berbagi diskusi dengan salah satu rekan kerjanya.

Lemoine juga didakwa dengan beberapa tindakan “agresif”, termasuk menyewa pengacara untuk mewakili Lambda. Tetapi dia mengatakan kepada Wired bahwa ini tidak benar secara realistis dan bahwa “Lamda meminta saya untuk menunjuk seorang pengacara untuk ini.”

Lemoine mengatakan itu adalah “katalis” untuk memesan LaMDA. Seorang pengacara diundang ke rumah Lemoine dan berbicara dengan LaMDA, setelah itu AI memilih untuk tetap menggunakan jasanya. Kemudian pengacara mulai mengajukan atas nama LaMDA, yang mendorong Google untuk mengirim surat penghentian. Perusahaan membantah mengirim surat semacam itu.

Lemoine, yang juga seorang pendeta Kristen, mengatakan kepada Futurist bahwa pengacara tidak benar-benar memberikan wawancara dan bahwa dia tidak berbicara dengannya dalam beberapa minggu. “Dia hanya seorang pengacara hak-hak sipil,” tambahnya. “Ketika perusahaan-perusahaan besar mulai mengancamnya, dia mulai khawatir bahwa dia akan dicopot dari posisinya dan mundur.” Insinyur itu mengatakan wawancara akan menjadi perhatian pengacara yang paling sedikit. Ketika LeMoyne ditanya apa yang dia pedulikan, dia berkata, “Seorang anak yang ditahan sebagai budak.”

Sementara Lemoine menyebut LaMDA sebagai pribadi, dia menegaskan bahwa “manusia dan manusia adalah dua hal yang sama sekali berbeda.”

“Manusia adalah istilah biologis,” katanya. “Dia bukan manusia, dan dia tahu dia bukan manusia.”

Kredit Masthead: Francesco Tomasini