Amazon akan membayar denda $25 juta kepada FTC serta “merombak praktik penghapusannya dan menerapkan perlindungan privasi yang ketat” untuk menghindari tuduhan melanggar Undang-Undang Perlindungan Privasi Daring Anak untuk merapikan AI-nya.

Antarmuka suara Amazon Alexa telah digunakan di rumah-rumah di seluruh dunia selama bertahun-tahun, dan setiap orang tua yang memilikinya tahu bahwa anak-anak suka bermain dengannya, membuatnya menceritakan lelucon, bahkan menggunakannya untuk tujuan yang dimaksudkan, apa pun itu. Faktanya, sangat jelas berguna bagi anak-anak yang tidak dapat menulis atau memiliki kecacatan sehingga FTC melonggarkan aturan COPPA untuk mengakomodasi penggunaan yang wajar: analisis khusus layanan tertentu atas data anak-anak, seperti transkripsi, diizinkan selama tidak dipertahankan lebih lama dari yang diperlukan secara wajar.

Tampaknya Amazon mungkin telah mengambil pandangan yang agak luas pada skala waktu yang “cukup diperlukan”, menjaga data ucapan anak-anak kurang lebih selamanya. Seperti yang dikatakan FTC:

Amazon menyimpan rekaman anak-anak tanpa batas waktu—kecuali orang tua meminta agar informasi ini dihapus, menurut pengaduan. Dan bahkan ketika orang tua berusaha menghapus informasi itu, kata FTC, Amazon gagal menghapus transkrip dari apa yang dikatakan anak-anak dari semua basis datanya.

Data geolokasi juga tidak dihapus, masalah yang “berulang kali gagal diperbaiki” oleh perusahaan.

Ini telah berlangsung selama bertahun-tahun — FTC menuduh bahwa Amazon mengetahuinya sejak 2018 tetapi tidak mengambil tindakan hingga September tahun berikutnya, setelah agensi memberi mereka dorongan yang membantu.

Waktu seperti itu biasanya menunjukkan bahwa perusahaan akan melanjutkan praktik ini selamanya. Dan ternyata, karena “perbaikan yang salah dan kegagalan proses”, beberapa dari praktik tersebut berlanjut hingga tahun 2022!

Anda mungkin bertanya, apa gunanya memiliki banyak rekaman anak-anak berbicara dengan Alexa? Nah, jika Anda berencana untuk membuat antarmuka suara Anda sering berbicara dengan anak-anak, memiliki basis data rahasia interaksi audio yang dapat Anda gunakan untuk melatih model pembelajaran mesin Anda pasti membantu. Dan begitulah FTC mengatakan Amazon membenarkan penyimpanan data ini.

Komisaris FTC Bedoya dan Pembantaian, serta Ketua Khan, menulis pernyataan yang menyertai proposal penyelesaian dan pengaduan untuk secara khusus menyebutkan satu poin ini:

Komisi menuduh bahwa Amazon menyimpan data anak-anak tanpa batas waktu untuk lebih menyempurnakan algoritme pengenalan suaranya. Amazon tidak sendirian dalam upaya mengumpulkan data untuk menyempurnakan model pembelajaran mesinnya; saat ini, dengan munculnya model bahasa yang besar, industri teknologi secara keseluruhan sedang berlari untuk melakukan hal yang sama.

Penyelesaian hari ini mengirim pesan ke semua perusahaan itu: Pembelajaran mesin bukanlah alasan untuk melanggar hukum. Klaim dari bisnis bahwa data harus disimpan tanpa batas waktu untuk meningkatkan algoritme tidak membatalkan larangan hukum atas penyimpanan data tanpa batas waktu. Data yang Anda gunakan untuk meningkatkan algoritme Anda harus dikumpulkan dan disimpan secara sah. Perusahaan sebaiknya memperhatikan pelajaran ini.

Jadi hari ini kami memiliki denda $ 25 juta, yang tentu saja tidak dapat diabaikan untuk ukuran perusahaan Amazon. Itu jelas mematuhi ketentuan lain dari pesanan yang diusulkan yang kemungkinan akan membuat mereka pusing. FTC mengatakan perintah itu akan:

  • Melarang Amazon menggunakan geolokasi, informasi suara, dan informasi suara anak-anak yang tunduk pada permintaan penghapusan konsumen untuk pembuatan atau peningkatan produk data apa pun;
  • Mengharuskan perusahaan untuk menghapus akun Alexa anak-anak yang tidak aktif;
  • Mewajibkan Amazon untuk memberi tahu pengguna tentang tindakan FTC-DOJ terhadap perusahaan;
  • Mewajibkan Amazon untuk memberi tahu pengguna tentang praktik dan kontrol retensi dan penghapusannya;
  • Melarang Amazon salah mengartikan kebijakan privasinya terkait geolokasi, suara, dan informasi suara anak-anak; Dan
  • Mengamanatkan pembuatan dan penerapan program privasi terkait penggunaan informasi geolokasi oleh perusahaan.

Penyelesaian dan tindakan ini sepenuhnya independen dari FTC lainnya yang diumumkan hari ini, dengan anak perusahaan Amazon, Ring. Namun, ada benang merah tertentu tentang “gagal menerapkan perlindungan privasi dan keamanan dasar”.

Dalam sebuah pernyataan, Amazon mengatakan bahwa “Meskipun kami tidak setuju dengan klaim FTC dan menyangkal telah melanggar hukum, penyelesaian ini menempatkan masalah tersebut di belakang kami.” Mereka juga berjanji untuk “menghapus profil anak yang tidak aktif selama lebih dari 18 bulan”, yang tampaknya sangat lama untuk menyimpan data tersebut. Saya telah menindaklanjuti dengan pertanyaan tentang durasi tersebut dan apakah data akan digunakan untuk pelatihan ML, dan akan diperbarui jika saya mendengarnya kembali.