Teknik analisis sentimen mungkin ‘tidak dewasa dan diskriminatif’, kata otoritas privasi Inggris

kentang panas: Otoritas Privasi Independen Inggris tidak ingin perusahaan atau organisasi menggunakan sistem analisis sentimen berdasarkan fitur biometrik. Ini adalah teknologi modern dan belum teruji yang benar-benar bisa gagal.

Kantor Komisaris Informasi (ICO) Inggris baru-baru ini mengeluarkan peringatan keras kepada perusahaan dan organisasi yang ingin menerapkan teknik analisis sentimen berbasis AI. Sistem ini tampaknya belum berfungsi dan kemungkinan tidak akan berfungsi secara akurat. Wakil Komisaris Stephen Boehner mengatakan algoritme pembelajaran mesin yang mengidentifikasi dan mengkarakterisasi suasana hati orang adalah “belum matang”. Dia mengatakan risiko yang dibawa oleh jenis teknologi ini lebih besar daripada potensi manfaatnya.

AI “Emosional” menjadi perhatian ICO karena saat ini tidak ada sistem yang dikembangkan dengan cara yang memenuhi persyaratan untuk perlindungan data, keadilan, dan transparansi. Bonner menyarankan bahwa satu-satunya teknologi pengenalan biometrik yang berkelanjutan adalah yang “berfungsi penuh, dapat dipertanggungjawabkan, dan didukung oleh sains,” dan algoritma analisis sentimen tidak.

Teknik analisis emosi mengolah data seperti pelacakan tatapan, analisis sentimen, gerakan wajah, analisis gaya berjalan, detak jantung, ekspresi wajah, dan kelembapan kulit. Data ini memberikan kemampuan pemantauan kesehatan fisik untuk staf dan siswa selama ujian dan banyak lagi. ICO memperingatkan bahwa sistem AI yang dirancang untuk menentukan suasana hati dapat menunjukkan bias sistematis, ketidaktepatan, dan bahkan diskriminasi terhadap fitur dan fitur wajah tertentu.

Biasanya dikombinasikan dengan sistem biometrik kompleks AI, analisis emosi perlu mengelola sejumlah besar informasi pribadi selain gambar wajah itu sendiri. Selain kegunaan algoritme, ada alasan lain untuk khawatir tentang bagaimana sistem ini merekam dan menyimpan data. “Tanggapan perilaku atau emosional yang tidak disadari” lebih berbahaya daripada teknik biometrik tradisional.

Karena para pejabat belum mempercayai teknik analisis sentimen, ICO telah memperingatkan bahwa organisasi menggunakannya “[pose] Risiko bagi Orang yang Rentan” dan akan menghadapi penyelidikan. Biro menyarankan perusahaan untuk menunggu setidaknya satu tahun lagi untuk penyebaran sistem AI emosional komersial.

Sementara itu, pengawas privasi sedang mengerjakan “pedoman biometrik” yang komprehensif tentang cara menangani data biometrik, termasuk fitur wajah, sidik jari, dan sampel suara, dengan cara yang tepat dan tidak diskriminatif. ICO mengharapkan untuk menerbitkan pedoman pada musim semi 2023.