Évtizedek óta vita folyik arról, hogy a mesterséges intelligencia megdönti az emberiséget, és 2021 januárjában a tudósok döntést hoztak arról, hogy tudunk-e irányítani egy magas szintű számítógépes szuperintelligenciát. Válasz? Szinte biztosan nem.
A probléma az, hogy egy szuperelme irányítása messze túlmutat az emberi felfogáson, ennek a szuperelmenek a szimulációjára lenne szükség, amelyet elemezhetünk. De ha nem vagyunk képesek megérteni, lehetetlen ilyen szimulációt létrehozni.
Egy 2021-es tanulmány szerzői úgy vélik, hogy olyan szabályokat, mint a „ne ártsunk az embereknek”, nem lehet megállapítani, hacsak nem értjük, hogy a mesterséges intelligencia (AI) milyen forgatókönyvekkel áll elő. Amint a számítógépes rendszer a programozóink képességeit meghaladó szinten működik, már nem tudunk korlátokat felállítani.
"A szuperintelligencia alapvetően más probléma, mint amit általában a "robot etika" zászlaja alatt vizsgálnak" - írják a kutatók. "Ennek az az oka, hogy a szuperelme sokrétű, és ezért potenciálisan képes különféle erőforrásokat mozgósítani olyan célok elérése érdekében, amelyek az emberek számára potenciálisan felfoghatatlanok, nemhogy ellenőrizhetőek."
A csapat érvelésének egy része innen származik leállási problémákAlan Turing javasolta 1936-ban. A kihívás abban rejlik, hogy kitaláljuk, vajon a számítógépes program következtetésre jut-e és válaszol (és megáll), vagy csak ácsorog örökké a válasz keresése közben.
Ahogy Turing segítségével bebizonyította intelligens matematika, bár ezt bizonyos programok esetében tudjuk, logikailag lehetetlen megtalálni azt a módot, amely lehetővé tenné, hogy ezt minden lehetséges program esetében megtudjuk, amit valaha is meg lehet írni. Ezzel visszatérünk az AI-hoz, amely szuperintelligens állapotban az összes lehetséges számítógépes programot egyszerre képes tárolni a memóriájában.
Szintén érdekes:
- Az OpenAI megtanította a mesterséges intelligenciát a parancsok programkódká alakítására
- A mesterséges intelligencia gravitációs hullámokat fog keresni
Bármely program, amelyet például arra írnak, hogy megakadályozza, hogy egy mesterséges intelligencia kárt tegyen az emberekben és elpusztítsa a világot, vagy nem jut a következtetésre (és leáll) – matematikailag lehetetlen teljesen biztosnak lenni mindkét irányban, ami azt jelenti, hogy nem lehet visszatartani. "Ez alapvetően használhatatlanná teszi az elrettentő algoritmust" - mondta januárban Iyad Rahwan informatikus, a németországi Max Planck Emberfejlesztési Intézet munkatársa.
A kutatók szerint a mesterséges intelligencia etikájának és a világ elpusztításának tilalmainak tanításának alternatívája – amiben egyetlen algoritmus sem lehet teljesen biztos – a szuperelme képességeinek korlátozása. Például előfordulhat, hogy le van vágva az internet vagy bizonyos hálózatok egy részéről.
Egy friss tanulmány szerzői ezt az elképzelést is elutasítják, mert úgy vélik, hogy ez korlátozni fogja a mesterséges intelligencia hatókörét – szerintük, ha nem az emberi képességeket meghaladó problémák megoldására használjuk, akkor egyáltalán minek létrehozni?
Ha fejleszteni akarjuk a mesterséges intelligenciát, akkor azt sem tudhatjuk, mikor jelenik meg a felettünk álló szuperintelligencia, annyira felfoghatatlan. Ez azt jelenti, hogy komoly kérdéseket kell feltennünk azzal kapcsolatban, hogy merre tartunk.
"A világot irányító szuperintelligens gép sci-finek hangzik" - mondja Manuel Kebrian informatikus, a Max Planck Institute for Human Development munkatársa. De már vannak olyan gépek, amelyek önállóan hajtanak végre néhány fontos feladatot, miközben a programozók nem teljesen értik, hogyan tanulták ezt meg.
Felmerül tehát a kérdés, hogy ez egy ponton ellenőrizhetetlenné és veszélyessé válhat-e az emberiség számára...
Olvassa el még:
- A mesterséges intelligenciának sikerült reprodukálnia egy festett Picasso-festményt
- A mesterséges intelligencia segít előre jelezni a közúti baleseteket, mielőtt azok bekövetkeznének