Intim képeket tett közzé egy nőről a nálunk is kapható robotporszívó

Még karácsony előtt derült ki, hogy egy mesterséges intelligenciával szerelt, egyébként nálunk is kapható iRobot Roomba J7-es robotporszívó többek között vécén videózott egy nőt, s a felvételek – más képekkel együtt – fel is kerültek a Facebookra.

A képek sajátos utat járhattak be, míg végül venezuelai felhasználóknál kötöttek ki. Az egyik különösen kínos felvételen fiatal nő ül a WC-n, rövidnadrágja combközépig lehúzva.

Ezeket a felvételeket nem személy készítette, hanem a világszerte árusított iRobot Roomba J7 sorozatú robotporszívó – a termék 1 forint híján 420 ezerbe kerül, magyar nyelvű termékoldala itt található.

Esetünkben miután a porszívó elkészítette saját kamerájával a felvételeket, elküldte az anyagot interneten a Scale AI-nek. Ez a cég mesterséges intelligencia rendszerek betanításához használt hang-, fénykép- és videóadatok címkézésével foglalkozik.

Ilyen és kevésbé magánjellegű jeleneteket az internetre csatlakoztatott eszközök rendszeresen rögzítenek és küldenek a felhőbe – de általában szigorúbb tárolási és hozzáférési engedélyekkel. Az MIT Technology Review portál szerint most tizenöt, porszívó által készített képet közösségi oldalakon is közzé tettek.

A felvételeken mellékhelyiségben dolgát végző személy, hason csúszó-mászó kisgyerek, kutya, különféle szobák, bútorok láthatók, amelyeket olyan címkékkel láttak el, hogy „tévé”, „növény”, „bútor” és így tovább.

Az iRobot a világ legnagyobb robotporszívó-szállítója, amit az Amazon nemrég 1,7 milliárd dollárért vásárolt fel. A cég megerősítette, hogy ezeket a képeket a Roomba készítette – még 2020-ban. Mindegyik felvétel „speciális fejlesztőrobotoktól származik, olyan hardver- és szoftvermódosításokkal, amelyek nem és soha nem is voltak jelen az iRobot fogyasztói termékekben” – áll a vállalat közleményében.

A gyártó szerint a háztartási eszközöket élénkzöld matricával látták el, amelyen az állt, hogy a „videófelvétel folyamatban van”, és az adatgyűjtők feladata volt „eltávolítani minden érzékeny információt, beleértve a gyerekeket is”.

Az iRobot állítja, hogy akiknek a fotói vagy videói az élő adásban (!) megjelentek, mind beleegyeztek a megfigyelésbe. Viszont megtagadták, hogy az MIT Technology Review megtekinthesse a hozzájárulási megállapodásokat.

A fejlesztés az első, aztán majd lesz valami

A felhasználók – tudatosan vagy kényszerűségből – rendszeresen hozzájárulnak, hogy különböző mértékben megfigyeljék őket az okostelefonjuktól kezdve egészen az okos mosógépükig, számos fejlett eszközön. Ez a gyakorlat azért (is) terjedt el, mert az adatokra éhes mesterséges intelligenciát egyre inkább integrálták a termékekbe és szolgáltatásokba.

A technológia nagy része a gépi tanuláson alapul, olyan technikán, amely nagy mennyiségű adatot használ fel – beleértve a hangunkat, arcunkat, otthonunkat és más személyes adatainkat –, hogy betanítsa az algoritmusokat a különféle mintázatok felismerésére. A leghasznosabb adatkészletek a minél reálisabbak, a valós környezetből, például otthonokból származó adatok. Gyakran egyszerűen magával a felhasználással hagyjuk jóvá az adatgyűjtést, mivel az adatvédelmi közlemények homályos fogalmazásai széles mérlegelési jogkört biztosítanak a gyártóknak a fogyasztói információk gyűjtésében és elemzésében.

A felső kategóriás robotporszívók a munkájukhoz számítógépes látást használnak, amely a tudását a képekből és videókból kinyert információkból szerzi.

Az iRobot kezdettől fogva sokat áldozott a számítógépes látásra, legelső ilyen képességekkel felruházott eszköze, a Roomba 980 még 2015-ben debütált. Ez volt az első az iRobot Wi-Fi-képes eszközei közül, amelyik képes térképezni egy egész otthont, hogy az ott észlelt információk alapján módosítsa takarítási stratégiáját, és azonosítsa az elkerülendő akadályokat. Meg kell ugyanis értenie a látott tárgyak sokféleségét ahhoz, hogy elkerülje a vezetékeket a padlón, vagy észlelje, hogy az előtte lévő tárgy egy kanapé.

Az otthoni környezet változatossága nagyon nehéz feladat elé állítja a robotokat – fejtette ki Wu Erqi, a pekingi székhelyű Roborock vezető kutatás-fejlesztési igazgatója. – „Az utak meglehetősen szabványosak, így az önvezető autókat gyártók tudják, vélhetően hogyan néz ki a sáv, és miként fest egy közlekedési tábla. De minden otthonnak nagyon eltérő a belső tere.”

„A bútorok nincsenek szabványosítva” – teszi hozzá a szakértő. – „Nem számíthatunk arra, hogy mi lesz a padlón. Néha van ott egy zokni, máskor meg kábelek hevernek – és ráadásul a kábelek máshogy nézhetnek ki az Egyesült Államokban, mint mondjuk Kínában.

Egyszerűen szükségük van az adatainkra

Az iRobot szabályzata nem tekinti érzékeny adatnak az arcokat, még akkor sem, ha kiskorúak láthatóak a felvételeken. Hogy például képesek legyenek a robotok kikerülni az embereket, először is meg kell tanítaniuk azokat, hogy mi az ember. Tehát össze kell gyűjteni az emberek adatait a modell betanításához.

A robotporszívók által gyűjtött információk különösen kellemetlenek lehetnek, mivel ezek az eszközök „erőteljes hardverrel, kifinomult érzékelőkkel rendelkeznek” – magyarázza Dennis Giese, a Northeastern Egyetem kutatója. Ő a tárgyak internete eszközeinek biztonsági réseit tanulmányozza.

Ahhoz, hogy ezek az adatkészletek hasznosak legyenek a gépi tanulás számára, elsőként embereknek meg kell tekinteniük, kategorizálniuk, felcímkézniük és kontextusba helyezniük. Ezt az adatfeljegyzési folyamatot végezte el a cikk elején említett Scale AI cég, így juthattak el hozzájuk a Roomba porszívó felvételei.

Az MIT Technology Review cikkében említett 15 kép csak egy morzsa a hatalmas adattengerből. Az iRobot közölte, hogy több mint kétmillió képet osztott meg a Scale AI-vel, és a Scale csak egy a gyártó által felkért adatfeldolgozók közül. Az iRobot közölte, hogy „felmondja kapcsolatát a képeket kiszivárogtató szolgáltatóval, és intézkednek, hogy a jövőben ne történhessen ilyen kiszivárogtatás”.

Az eset nyilván többről szól, mint egyetlen cég adatvédelmi ügyetlenségeiről.

Azt a széles körben elterjedt és egyre terjedő gyakorlatot példázza, hogy tömegesen osztanak meg potenciálisan érzékeny adatokat algoritmusokkal, amelyek ezeket az adatokat szétküldik az egész világban. Porszívós esetünkben a videók, képek, adatok az észak-amerikai, európai és ázsiai otthonokból eljutottak a massachusettsi székhelyű iRobot szervereire, onnan a San Francisco-i Scale AI-re, majd a Scale szerződéses külsős adatfeldolgozó embereihez szerte a világon – végül pedig a képekhez kézen-közön hozzájutó  venezuelaiak megosztották a Facebookon és a Discordon.

„Másképpen gondolunk a gépekre, mint az emberekre” – mondta a Technology Review-nek Jessica Vitak, információ-szakértő, a Marylandi Egyetem professzora. – „Sokkal könnyebb elfogadni egy aranyos kis robotporszívót, amelyik körülöttünk tüsténkedik, mint egy élő személyt, aki kamerával járkál a lakásunkban.”

Pedig talán nem csak egy robotporszívó figyel minket a vécén – lehet, hogy egy személy is néz a kameráján át.