A Facebook ember-AI keveréke az audio átíráshoz most a magánélet ellenőrzésével szembesül Európában – a TechCrunch


Facebook Az európai magánélet-szabályozó most részletes információkat kér a társaságtól a hang-szöveges funkció működéséről a Facebook Messenger-ben alkalmazás, és hogyan felel meg az uniós jognak.

Tegnap a Bloomberg arról számolt be, hogy a Facebook emberi vállalkozókkal írja át az alkalmazás felhasználói hangüzeneteit – a magánéletének politikája azonban nem említi egyértelműen azt a tényt, hogy a tényleges emberek meghallgathatják az Ön felvételeit.

A Facebook súgójának egyik oldalán található egy „megjegyzés”: „A Voice to Text használ gépi tanulást” -, de nem mondja, hogy ezt a funkciót olyan emberek működtetik, akiket a Facebook hallgat.

Az Ír Adatvédelmi Bizottság szóvivője elmondta nekünk: „A Google-val folytatott folyamatos kapcsolatunk mellett Az Apple és a Microsoft a személyes adatok feldolgozására vonatkozóan a hangfelvételek kézi átírása kapcsán most a Facebook-ról részletes információkat keresünk a szóban forgó feldolgozásról és arról, hogy a Facebook hogyan gondolja, hogy az ilyen adatok feldolgozása megfelel-e a GDPR-vel kapcsolatos kötelezettségeiknek .”

A Bloomberg jelentése hasonló észleléseket követ az AI asszisztens technológiákról, amelyeket más technológiai óriások, köztük az Apple, az Amazon, a Google és a Microsoft kínáltak – amelyek az elmúlt hetekben szintén felhívták az európai adatvédelmi szabályozók figyelmét.

Ez azt mondja nekünk, hogy az AI hangsegédjei körül hype van még mindig egy sokkal kevésbé csúcstechnológiájú háttérkép átvilágítása. Még akkor is, amikor a gépi tanuláshoz szükséges marketingkötéseket rögzítették, akkor a guff-okat felhasználták a „mechanikus turk” alkotóelemek (azaz emberek) elfedéséhez, amelyek ahhoz szükségesek, hogy a technika megfeleljen az igényeknek.

Valójában ez egy nagyon régi történet. Szerelem: Teljes évtized ezelőtt egy Spinvox nevű brit induló vállalkozásról, amely azt állította, hogy fejlett hangfelismerési technológiáját használja a hangposták szöveges üzenetké konvertálására, arról számoltak be, hogy nagyon erősen támaszkodik Dél-Afrika és a Fülöp-szigetek hívóközpontjaira, akiknek igen dolgozói vannak.

Visszatérve a mai élvonalbeli technológiához, a Bloomberg jelentését követően a Facebook szerint a hónap elején felfüggesztette az emberi átírásokat – csatlakozott az Apple-hez és a Google abban, hogy leállítja a hangos AI-k kivonatának kézi áttekintését. (Amazon azóta felmondta az Alexa alkalmazás beállításait.)

Megkérdeztük a Facebook-ot, ahol a Messenger alkalmazásban arról tájékoztatták a felhasználókat, hogy emberi vállalkozókkal lehet beszédtársaikat / audioüzeneteiket átírni; és hogyan gyűjtötte a Messenger felhasználói hozzájárulását az adatfeldolgozás ilyen formájához – az emberi vélemények felfüggesztése előtt.

A vállalat nem válaszolt a kérdéseinkre. A szóvivő ehelyett a következő nyilatkozatot adott nekünk: “Hasonlóan az Applehez és a Google-hoz, több mint egy hete szüneteltettük a hang emberi áttekintését. ”

A Facebook emellett letapogatott és azonosítatlannak találta a kiviteleket is, amelyeket a vállalkozóknak küldött; azt állították, hogy csak akkor gyűjtötték össze őket, amikor a felhasználók a Messengerben átírást választottak; és csak az AI transzkripciós teljesítményének javítására használták őket.

Ezenkívül megismételte a társaság által a Facebook által folytatott általános hallgatás utáni felhasználói aggályokat, mondván, hogy soha nem hallgatja meg az emberek mikrofonjait eszköz engedély nélkül vagy a felhasználók kifejezett aktiválása nélkül.

Fontos kérdés azonban, hogy a Facebook miként gyűjt engedélyt az adatok feldolgozására.

A társaság például nemrégiben egy manipulációs hozzájárulási folyamatot alkalmazott annak érdekében, hogy az európai felhasználókat rábukkanja az arcfelismerési technológia bekapcsolására – visszatelepítve korábbi álláspontját, amelyet a korábbi szabályozási beavatkozásra válaszul fogadtak el, hogy a technológiát blokkokon keresztül kapcsolják ki.

Tehát sok múlik, hogy a Facebook pontosan leírta-e az adatfeldolgozást, amikor azt kérdezi a felhasználóktól, hogy hozzájáruljanak ahhoz, hogy hangüzeneteiket az emberek felülvizsgálják (feltételezve, hogy az adatfeldolgozás jogalapjául az egyetértésre támaszkodik).

A termék használatához az általános szerződési feltételekbe történő bevonása szintén valószínűtlen, hogy megfelel-e az EU adatvédelmi jogszabályainak, mivel a blokk általános adatvédelmi rendelete megköveteli, hogy az engedély korlátozott legyen, teljes körűen tájékozott és szabadon megadott.

Ha a Facebook jogos érdekekre támaszkodik a Messenger felhasználói hangrészleteinek feldolgozása érdekében, hogy fokozza az AI teljesítményét, akkor egyensúlyba kell hoznia saját érdekeit az emberek magánéletét érintő bármilyen kockázattal.

A hang AI-k ebben a tekintetben különösen problematikusak, mivel a hangfelvételek a nem használók személyes adatait is rögzíthetik – tekintve, hogy egy eszköz közelében tartózkodó emberek (vagy valóban a telefonvonal másik végén lévő személy, aki üzenetet hagy neked) megszerezhetik személyes adataikat anélkül, hogy bármikor lehetősége lett volna hozzájárulni ahhoz, hogy a Facebook vállalkozók meghallgassák.

A Google Assistant részletek szivárogtatása a belga sajtónak nemrégiben rávilágított a felvételek érzékeny természetére és az ilyen felvételek által okozott újbóli azonosítás kockázatára – az újságírók képesek azonosítani a felvételekben szereplő személyeket.

Számos sajtójelentés azt is javasolta, hogy a technológiai óriások által alkalmazott vállalkozók rutinszerűen hallgassák meg az olyan bensőséges részleteket, amelyeket olyan termékskálán rögzítenek, amelyek képesek audio felvételre és ezen személyes adatok továbbítására a felhőbe feldolgozás céljából.