Pénteken a Koko társalapítója, Rob Morris bejelentette Twitter, hogy cége kísérletet végzett azzal a céllal, hogy MI által írt mentális egészségügyi tanácsokat adjon 4 embernek előzetes értesítés nélkül – írja a The Verge. A kritikusok mélyen etikátlannak nevezték a kísérletet, mert Koko nem kapott tájékozott beleegyezést a tanácsot kérő emberektől. A Koko egy non-profit mentális egészségügyi platform, amely összeköti a mentális egészségügyi ellátásra szoruló tizenéveseket és felnőtteket önkéntesekkel üzenetküldő alkalmazásokon keresztül, mint pl. Telegram és Discord.
A Discordon a felhasználók bejelentkeznek a Koko Cares szerverre, és közvetlen üzeneteket küldenek a Koko botnak, amely egy sor feleletválasztós kérdést tesz fel (pl. "Mi a legsötétebb gondolatod ezzel kapcsolatban?"). Ezután névtelenül megosztja a személy néhány mondatos szövegként rögzített aggodalmát valakivel a szerveren, aki névtelenül válaszolhat egy saját rövid üzenettel.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Egy körülbelül 30 3 üzenetet magában foglaló mesterséges intelligencia (AI) kísérletben Morris szerint a másokon segítő önkénteseknek lehetőségük volt az OpenAI GPT-3 nagynyelvi modellje által automatikusan generált választ használni ahelyett, hogy azt önállóan írták volna (a GPT-XNUMX a technológia mögött). a közelmúltban népszerű ChatGPT chatbot). Morris tweetében megjegyzi, hogy az emberek addig dicsérték az MI által generált válaszokat, amíg meg nem tudták, hogy azokat mesterséges intelligencia írta, ami arra utal, hogy a kísérlet legalább egy szakaszában hiányzik a tájékozott beleegyezés:
„A mesterséges intelligencia által összeállított (és az emberek által irányított) üzeneteket lényegesen magasabbra értékelték, mint az emberek által írt üzeneteket. A válaszidő 50%-kal kevesebb mint egy percre csökkent. És mégis… elég gyorsan eltávolítottuk ezt a funkciót a platformunkról. Miért? Miután az emberek megtudták, hogy az üzeneteket géppel generálták, az leállt. A szimulált szimpátia furcsának, üresnek tűnik."
A szerver bevezetőjében az adminisztrátorok ezt írják: „A Koko valós emberekkel kapcsol össze, akik igazán megértenek téged. Nem terapeuták, nem tanácsadók, csak olyan emberek, mint te." Nem sokkal azután, hogy Morris közzétette az üzenetet, számos választ kapott, amelyben kritizálták a kísérletet, mint etikátlanságot, a tájékozott beleegyezés hiányára hivatkozva, és megkérdőjelezték, hogy a kísérletet jóváhagyta-e az Institutional Review Board (IRB). Az Egyesült Államokban tilos emberi alanyokon kutatást folytatni jogilag hatékony, tájékozott beleegyezés nélkül, kivéve, ha az IRB úgy dönt, hogy a hozzájárulás lemondható.
Morris válaszában Twitter-üzenetben kijelentette, hogy a kísérlet "mentesül" a tájékozott beleegyezés követelményei alól, mert nem tervezte az eredmények közzétételét, ami felháborodást váltott ki.
A mesterséges intelligencia terapeutaként való használatának ötlete korántsem új, de Koko kísérlete az különbözteti meg a tipikus mesterséges intelligencia-terápiás megközelítésektől, hogy a betegek hajlamosak tudni, hogy nem élő személlyel beszélnek. Koko esetében a platform hibrid megközelítést alkalmazott, ahol egy emberi közvetítő áttekinthette az üzenetet, mielőtt elküldené, ahelyett, hogy egyenes csevegési formátumot használt volna. A kritikusok azonban tájékozott beleegyezés nélkül azt mondják, hogy Koko megsértette azokat az etikai szabályokat, amelyek célja a kiszolgáltatott emberek védelme volt a káros vagy kegyetlen kutatási gyakorlatoktól.
Korábbi IRB-tagként és elnökként végzett humán alanyú kutatást egy sebezhető populáción IRB jóváhagyása vagy felmentés nélkül (nem TE dönthetsz). Talán az MGH IRB process olyan lassú, mert ilyen dolgokkal foglalkozik. Kéretlen tanács: ügyvéd fel
— Daniel Shoskes (@dshoskes) Január 7, 2023
Hétfőn Morris közzétett egy bejegyzést, amelyben reagált a vitára, és elmagyarázta Koko útját a GPT-3 és az AI felé általában: „Empátiával és nyitottsággal fogadok kritikát, aggályokat és kérdéseket ezzel a munkával kapcsolatban. Elkötelezettek vagyunk amellett, hogy a mesterséges intelligencia bármilyen felhasználása érzékeny legyen, mély aggodalmunk a magánélet védelme, az átláthatóság és a kockázatcsökkentés érdekében. Klinikai Tanácsadó Testületünk azért ül össze, hogy megvitassa a jövőbeli munkára vonatkozó irányelveket, beleértve az IRB jóváhagyását is.”
Segíthet Ukrajnának az orosz megszállók elleni küzdelemben. Ennek legjobb módja, ha adományokat adományoz az ukrán fegyveres erőknek ezen keresztül Savelife vagy a hivatalos oldalon keresztül NBU.
Olvassa el még: