Amazon mengajari Alexa untuk meniru suara kerabat yang telah meninggal

kentang panas: Amazon sedang mengembangkan kemampuan yang memungkinkan asisten suara Alexa untuk meniru suara manusia setelah mendengar mereka berbicara kurang dari satu menit. Terlepas dari potensi menyeramkan dari fitur tersebut, beberapa orang khawatir tentang potensi penyalahgunaan.

Rohit Prasad, yang memimpin tim Alexa di Amazon, mengatakan tujuan proyek ini adalah untuk “membuat kenangan bertahan lama” setelah “begitu banyak dari kita kehilangan seseorang yang kita cintai” akibat pandemi.

Alexa dapat dilatih untuk meniru suara menggunakan suara yang sudah direkam sebelumnya, yang berarti seseorang tidak harus hadir — atau bahkan hidup — untuk bertindak sebagai sumber daya. Dalam sebuah video yang ditampilkan selama konferensi minggu ini, seorang anak bertanya kepada Alexa apakah Nenek bisa menyelesaikan membaca The Wizard of Oz. Alexa pasti akan mengubah suara untuk mengolok-olok nenek bayi dan menyelesaikan membaca cerita.

Selama presentasi, Prasad mengatakan Alexa sekarang menerima miliaran permintaan per minggu dari ratusan juta perangkat yang mendukung Alexa di 17 bahasa di lebih dari 70 negara di seluruh dunia.

Potensi penyalahgunaan tampaknya tinggi. Misalnya, alat ini dapat digunakan untuk membuat kepalsuan mendalam yang menarik untuk kampanye disinformasi atau propaganda politik. Penipu dapat memanfaatkan kemampuan untuk keuntungan finansial, seperti yang terjadi pada tahun 2020 ketika penipu menipu seorang manajer bank untuk mentransfer $35 juta untuk membiayai akuisisi yang tidak ada.

Apa pendapat Anda tentang masalah ini? Apakah Amazon mengambil konsep reproduksi suara terlalu jauh di sini, atau apakah Anda tertarik dengan gagasan untuk melakukan “percakapan” dengan seseorang dari kubur?

Kredit gambar: Jean-Antonin Kollard