Kedden a Meta bejelentette, hogy megkezdi a mesterséges intelligencia által generált képek címkézését más cégektől, például az OpenAI-tól és a Google-tól. A lépés célja az átláthatóság növelése olyan platformokon, mint pl Facebook, Instagram és a szálak, tájékoztatva a felhasználókat arról, hogy az általuk megtekintett tartalom szintetizált digitális média, nem pedig hiteles fénykép vagy videó.
A Meta megoldása egy szélesebb körű technológiai iparági törekvés része, amelynek célja, hogy szabványokat állítson fel a generatív mesterséges intelligencia modellekkel létrehozott tartalmak címkézésére, amelyek képesek írásos felszólítások alapján hamis, de valósághű hangot, képeket és videókat létrehozni.
A Meta globális ügyekért felelős elnöke, Nick Clegg ezt egy blogbejegyzésben jelentette be a Meta honlapján. "Továbbra is ezt a megközelítést fogjuk követni a következő évben, amikor számos fontos választást tartanak szerte a világon" - írta Clegg. "Reméljük, hogy ezalatt az idő alatt még többet megtudhatunk arról, hogy az emberek hogyan hoznak létre és osztanak meg tartalmakat mesterséges intelligenciával, milyen átláthatóságot értékelnek leginkább az emberek, és hogyan fejlődnek ezek a technológiák."
Clegg megjegyezte, hogy a Meta mesterséges intelligencia által generált tartalomcímkézési kezdeményezése kibővíti a saját mesterségesintelligencia-eszközeivel készített tartalmak címkézésének jelenlegi gyakorlatát, és más cégek szolgáltatásaival készített képeket is magában foglalja.
„Az iparágban vezető eszközöket építünk, amelyek képesek a láthatatlan markerek nagymértékű azonosítására – különösen a C2PA és IPTC műszaki szabványokban szereplő „AI által generált” információk –, így megcímkézhetjük a Google-tól, OpenAI-tól, Microsoft, az Adobe, a Midjourney és a Shutterstock, miközben megvalósítják azt a tervet, hogy metaadatokat adnak hozzá az eszközeik által létrehozott képekhez.”
A Meta szerint az AI által generált tartalomcímkézési technológia láthatatlan vízjeleken és fájlokba ágyazott metaadatokon fog alapulni. A Meta egy kis „Imagined with AI” vízjelet ad a nyilvános AI képgenerátorával készített képekhez.
A bejegyzésben Clegg bízik abban, hogy a vállalatok képesek megbízhatóan címkézni a mesterséges intelligencia által generált képeket, bár megjegyezte, hogy az audio- és videotartalmak címkézésére szolgáló eszközök még fejlesztés alatt állnak. Addig is a Meta megköveteli a felhasználóktól, hogy címkézzék fel a módosított audio- és videotartalmat, ennek elmulasztása esetén pedig meghatározatlan pénzbírságot kell fizetniük.
"Megköveteljük az emberektől, hogy használják ezt a közzétételi és címkézési eszközt, amikor természetes tartalmat tesznek közzé fotorealisztikus videóval vagy valósághű hanggal, amelyet digitálisan hoztak létre vagy módosítottak, és ha nem teszik meg, büntetést szabhatunk ki" - írta.
Clegg azonban megjegyezte, hogy jelenleg nincs hatékony módja a mesterséges intelligencia által generált szövegek címkézésének, ami azt sugallja, hogy már túl késő ilyen intézkedéseket végrehajtani az írott tartalom esetében. Ez egybeesik azokkal a jelentéseinkkel, amelyek szerint az AI-szövegdetektorok nem működnek.
A bejelentés egy nappal azután érkezett, hogy a Meta független felügyeleti testülete bírálta a cég megtévesztő módon módosított videókra vonatkozó politikáját, mivel túl szűkre szabott, és javasolta az ilyen tartalom megjelölését az eltávolítás helyett. Clegg egyetértett a kritikával, és elismerte, hogy a jelenlegi Meta-irányelvek nem megfelelőek az interneten megjelenő szintetikus és hibrid tartalom növekvő mennyiségének kezelésére. Úgy látja, hogy az új címkézési kezdeményezés egy lépés a felügyeleti testület ajánlásainak végrehajtása felé, és hasonló intézkedésekre ösztönzi az egész iparágat.
A Meta elismeri, hogy nem lesz képes észlelni a mesterséges intelligencia által generált, vízjelek vagy metaadatok nélkül létrehozott tartalmakat, például egyes nyílt forráskódú mesterséges intelligencia-képszintézis-eszközökkel készített képeket. A Meta a Stable Signature nevű képvízjel-technológiát kutatja, amely reményei szerint beépíthető nyílt forráskódú képgenerátorokba. De mindaddig, amíg a pixelek pixelek, a technológiai ipar által nem ellenőrzött módon is létrehozhatók, és ez továbbra is kihívást jelent az AI-tartalom észlelése számára, mivel a nyílt forráskódú AI-eszközök kifinomultabbá és valósághűbbé válnak.
Olvassa el még: