Egy szülő szerint, aki képernyőképeket tett közzé Alexa tevékenységének történetéről, az Amazon hangsegédje, amikor egy gyerek kihívást kért, példát adott egy halálos elektromossággal végzett kísérletre, és kivette a leírását egy véletlenszerű cikk kontextusából. Az Echo rovatban szó esett a TikTok rajongók körében népszerű kísérletről egy érme és egy okostelefon töltő használatával – a megvalósítás után számos incidensről, sérülésről és tűzesetről számoltak be a különböző médiák. Nyilvánvalóan az eszköz egy olyan cikkből merítette az ötletet erre a kihívásra, amely veszélyesnek minősítette, egy állítólagos létező TikTok kihívásról szóló jelentésre hivatkozva.
A Christine Livdahl által készített képernyőkép szerint, amikor arra kérték, hogy "mutasson egy feladatot", Echo azt válaszolta: "Itt találtam valamit az interneten." A ourcommunitynow.com szerint a feladat egyszerű: "illessze be a telefontöltőt körülbelül félig a konnektorba, majd érintse meg egy fillérrel a csupasz tűket."
A BBC-nek adott nyilatkozatában az Amazon megerősítette Alexa viselkedését, mondván: "Amint tudomást szereztünk a hibáról, azonnali lépéseket tettünk a javítás érdekében." Livdahl tegnap Twitteren azt írta, hogy a kihíváskérés már nem működik. A weben lévő felhasználók az Alexával is tesztelték a kérést, és hasonló eredményt kaptak.
OMFG A 10 éves kisfiam most kihívást kért Alexától az Echo-nkon, és ezt mondta. képtwitter.com/HgGgrLbdS8
- Kristin Livdahl (@klivdahl) December 26, 2021
Nem az Amazon az egyetlen cég, amely problémákba ütközött a webes tartalom elemzése során. Októberben egy felhasználó arról számolt be, hogy a Google potenciálisan veszélyes tanácsokat jelenít meg az egyik kivonatában, ha azt írta be a Google-be, hogy "rohamot kap, mit tegyünk" – az információt a weboldal egy részéből vettük, amely leírja, hogy mit nem. mit tegyen, ha valakinek rohama van. A felhasználók azonban más hasonló problémákról is beszámoltak, köztük az egyik felhasználó, aki arról számolt be, hogy a Google az ortosztatikus hipotenzióra vonatkozó eredményeket ad vissza, amikor az ortosztatikus hipertónia kifejezésre keres, egy másik pedig olyan képernyőképet tett közzé a Google-ról, amely szörnyű tanácsokat ad egy gyászoló ember vigasztalására a következőképpen: „Örülök, hogy Ön minden rendben" vagy "Ne légy szomorú! Felvidít!".
A Google keresési összefoglalója a tényleges oldalhoz képest képtwitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@puha) Október 16, 2021
Azt is láttuk, hogy a veszélyes viselkedésre vonatkozó figyelmeztetések felerősödtek, hogy a probléma a korábbinál nagyobb legyen – a hónap elején néhány amerikai iskolai körzetet lezártak, miután a TikTokon lövöldözős fenyegetésekről számoltak be. Kiderült, hogy a társadalmi vihart elsősorban az okozta, hogy az emberek a fenyegetésekről beszéltek, sokkal többet, mint a ténylegesen létező fenyegetésekről. Alexa esetében az algoritmus kiválasztotta a figyelmeztetés leíró részét, és felerősítette azt az eredeti kontextus nélkül. Bár a szülők ott voltak, hogy azonnal közbelépjenek, könnyen elképzelhető olyan helyzet, amikor ez nem így van, és ennek következményei is lehetnek.
Livdahl a Twitteren azt írta, hogy kihasználta a lehetőséget, hogy "az internet biztonságáról beszéljen gyermekével, és ne bízzon az olvasottakban kutatás és ellenőrzés nélkül", amit javasolunk Önnek is.
Olvassa el még: