Rejtélyes Q projekt* az OpenAI-tól aggodalomra ad okot a szakértők körében. Tényleg veszélyes lehet az emberiségre? Mit lehet tudni róla? Miután Sam Altmant a múlt héten kirúgták, és ő és a csapat majdnem beköltöztek Microsoft, majd visszatért a munkahelyére (arról írtunk ide), az OpenAI ismét a hírekben van. Ezúttal azért, mert egyes kutatók lehetséges fenyegetésnek nevezik az emberiséget. Igen, jól olvastad, fenyegetés az emberiségre.
Az igazi felfordulást a technológia világában a Project Q* - az általános mesterséges intelligencia (AGI) nem titkolt projektje - okozta, amit a Q-Starnak nevezett. Noha ez a projekt a kezdeti szakaszban jár, az AGI fejlesztések terén valóban úttörőnek számít. Néhányan azonban veszélyt jelentenek az emberiségre.
A híres mesterségesintelligencia-laboratórium, az OpenAI által kifejlesztett titkos mesterséges intelligencia projekt forradalmasíthatja a technológiát és általában a társadalmat. De felvet néhány etikai kérdést is a kockázatokkal kapcsolatban. Ahogy részletek derülnek ki a Project Q* elképesztő képességeiről, egyre több találgatás merül fel azzal kapcsolatban, hogy mit jelenthet ez az emberiség jövője szempontjából.
Szintén érdekes: Az OpenAI története: Mi volt ez és mi vár a cégre
Mi az a mesterséges általános intelligencia (AGI)?
A Project Q* (Q-Star) körüli felhajtás megértéséhez először próbáljuk meg megérteni, miről is szól a mesterséges általános intelligencia (AGI) koncepciója. Míg a jelenlegi mesterséges intelligencia rendszerek olyan szűk, specifikus feladatokban jeleskednek, mint a sakkozás vagy a képek generálása, az általános mesterséges intelligencia olyan gépekre vonatkozik, amelyek sok területen képesek emberi szinten tanulni és gondolkodni. Vagyis úgy tanulhatják, mint a kisgyerekek az iskolában, például a matematika, kémia, biológia alapjait stb.
Az általános mesterséges intelligencia (General Artificial Intelligence, AGI) a gépi intelligencia egy olyan típusa, amely hipotetikusan utánozza az emberi intelligenciát vagy viselkedést, és képes megtanulni és alkalmazni ezt a lehetőséget számos probléma megoldására. Az AGI-t erős mesterséges intelligenciának, teljes mesterséges intelligenciának vagy emberi szintű mesterséges intelligenciának is nevezik. Az általános mesterséges intelligencia különbözik a gyenge vagy szűk AI-tól, amely csak adott paramétereken belül képes meghatározott vagy speciális feladatokat ellátni. A ZHI képes lesz önállóan megoldani különféle összetett problémákat a különböző tudásterületekről.
A mesterséges intelligencia létrehozása az olyan cégek mesterséges intelligencia kutatásának fő fókusza, mint a DeepMind és az Anthropic. A CSI nagyon népszerű téma a tudományos-fantasztikus irodalomban, és alakíthatja a jövőbeli kutatásokat. Egyesek azt állítják, hogy lehetséges egy UCI létrehozása éveken vagy évtizedeken belül, míg mások azt állítják, hogy ez akár egy évszázadot is igénybe vehet. De vannak, akik azt hiszik, hogy ez soha nem fog megvalósulni. Vannak, akik már látták az URI kezdetét a GPT-3-ban, de úgy tűnik, még mindig messze van attól, hogy megfeleljen az alapvető kritériumoknak.
A mesterséges intelligencia (AGI) létrehozását a kutatók a mesterséges intelligencia szent gráljának tekintik, amely elméleti lehetőség már régóta megragadta a képzeletüket. Ezért egy ilyen projekt, mint az OpenAI Project Q* megjelenése nagy visszhangot váltott ki a mesterséges intelligencia-algoritmuskutatás világában. Bár mindenki megérti, hogy ezek csak az első lépések, szinte vakon egy olyan világ felé, ahol a mesterséges intelligencia ugyanolyan képességekkel rendelkezik majd, mint az emberek, vagy még magasabbak is.
Szintén érdekes: Minden amiről szól Microsoft Másodpilóta: a jövő vagy a rossz út?
Mi az a Project Q*?
A Project Q* nem egy tipikus algoritmus, mert ez egy mesterséges intelligencia modell, amely egyre inkább megközelíti a mesterséges általános intelligencia (AGI) modellt. Ez azt jelenti, hogy a ChatGPT-vel ellentétben a Project Q* jobb gondolkodási és kognitív képességeket mutat más algoritmusokhoz képest. A ChatGPT jelenleg hatalmas mennyiségű tényanyag alapján válaszol a lekérdezésekre, de az AGI-vel az AI-modell megtanulja az érvelést, valamint a gondolkodás és a megértés képességét. Az már ismert, hogy a Project Q* képes olyan egyszerű matematikai feladatok megoldására, amelyek nem szerepeltek a tananyagában. Ebben egyes kutatók jelentős lépést látnak az általános mesterséges intelligencia (AGI) létrehozása felé. Az OpenAI az AGI-t olyan mesterséges intelligencia rendszerként határozza meg, amely okosabb, mint az ember.
A Project Q* fejlesztését az OpenAI vezető tudósa, Ilya Sutzkever irányítja, alapjait pedig Jakub Pakhotsky és Shimon Sidor kutatók támasztották alá.
A mesterséges intelligencia területén áttörésnek számít, hogy egy algoritmus képes önállóan megoldani a matematikai problémákat, még akkor is, ha ezek a problémák nem képezték a betanítási adathalmaz részét. A projekttel kapcsolatos nézeteltérések a csapatban az OpenAI vezérigazgatójának, Sam Altmannak az ideiglenes eltávolításával kapcsolatosak. Ismeretes, hogy Altman elbocsátása előtt a cégkutatók egy csoportja levelet küldött az igazgatótanácsnak, figyelmeztetve az emberiségre veszélyt jelentő mesterséges intelligencia felfedezésére. Ez a levél, amely állítólag a Project Q* algoritmust tárgyalta, az egyik olyan tényezőként szerepelt, amely Altman kirúgásához vezetett. A Q* projekt képességei és az esetleges kockázatok azonban nem teljesen ismertek, mert a részletek ismeretlenek. Semmit nem tettek közzé a nagyközönség számára.
Lényegében a Project Q* egy modell nélküli megerősítő tanulási módszer, amely eltér a hagyományos modellektől azáltal, hogy nem igényel előzetes környezetismeretet. Ehelyett tapasztalaton keresztül tanul, jutalmakon és büntetéseken alapuló cselekedeteket adaptálva. A műszaki szakértők úgy vélik, hogy a Project Q* az emberi kognitív képességekhez hasonló képességek elsajátításával képes lesz kiemelkedő képességekre szert tenni.
A mesterséges intelligencia új modelljében azonban ez a jellemző a leglenyűgözőbb, ami aggasztja a kutatókat és a kritikusokat, és felkelti a félelmet a technológia valós alkalmazási lehetőségeivel és az ezzel járó kockázatokkal kapcsolatban. Mitől félnek annyira a tudósok és kutatók? Találjuk ki.
Szintén érdekes: Hogyan frissítheti otthoni eszközeit a Wi-Fi támogatására 6
Félnek az ismeretlentől
Az emberek mindig is féltek az ismeretlentől, a megismerhetetlentől. Ez az emberi lényeg, jellemünk és életmódunk sajátossága.
A technológia világa 2023 novemberében értesült a Project Q*-ról a Reuters után jelentették az OpenAI érintett kutatói által írt belső levélről. A levél tartalma homályos volt, de állítólag komolyan elemezte a Project Q* képességeit. Ahogy fentebb említettem, még azt is feltételezik, hogy ez a levél váltotta ki Sam Altman lemondását.
Ez a robbanásszerű felfedezés különféle hipotéziseket szült a Q* projekt természetével kapcsolatban. A tudósok felvetették, hogy ez egy forradalmian új természetes nyelvi modell lehet az AI számára. Egyfajta új algoritmusok feltalálója, aki megalkotja azokat az AI más formáihoz, vagy valami egészen máshoz ezen a területen.
Altman provokatív megjegyzései az általános mesterséges intelligenciáról mint "átlagos alkalmazottról" már aggodalmakat váltottak ki a munkahely biztonsága és az AI befolyásának megállíthatatlan bővülése miatt. Ezt a titokzatos algoritmust mérföldkőként határozták meg a mesterséges általános intelligencia (AGI) fejlődésében. Azt azonban mindenki megérti, hogy ez a mérföldkő drága. És most nem a pénzről van szó. Az új AI-modell által ígért kognitív készségek szintje bizonytalanságot hordoz magában. Az OpenAI tudósai azt ígérik, hogy a mesterséges intelligencia emberi szintű gondolkodással fog rendelkezni. Ez pedig azt jelenti, hogy sok mindent nem tudhatunk meg, és nem láthatjuk előre a következményeket. És minél több az ismeretlen, annál nehezebb felkészülni annak ellenőrzésére vagy javítására. Vagyis az új algoritmus képes önfejlesztésre, fejlesztésre. Ezt már láttuk valahol...
Szintén érdekes: Windows 12: Mi lesz az új operációs rendszer?
Csodálatos részletek a Project Q képességeiről*
Amikor újabb információk kezdtek napvilágot látni, sok kutatót megdöbbentett. A kezdeti jelek szerint a Project Q* elképesztő matematikai érzékkel rendelkezik. A mechanikus számításokat végző számológépekkel ellentétben a Project Q* állítólag logikát és érvelést tud használni összetett matematikai problémák megoldására. Ez a matematikai általánosítási képesség széles körű intelligencia fejlődésére utal.
A Project Q* autonóm betanítása a tipikus mesterséges intelligencia képzésére használt specifikus adatkészletek nélkül szintén óriási előrelépést jelent majd. Továbbra sem ismert, hogy a Project Q* elsajátított-e más készségeket. De matematikai képességei önmagukban olyan csodálatosak, hogy még a tapasztalt kutatókat is megzavarják.
Olvassa el még: Human Brain Project: Kísérlet az emberi agy utánzására
A Q* projekt útja a dominanciához?
Ebben a kérdésben optimista és pesszimista forgatókönyvek egyaránt vannak. Az optimisták azt mondják, hogy a Project Q* lehet az a szikra, amely technológiai áttöréshez vezet. Ahogy a rendszer rekurzívan fejlődik, természetfeletti intelligenciája segíthet megoldani az emberiség néhány legfontosabb problémáját, a klímaváltozástól a betegségek elleni védekezésig. A Q* projekt automatizálhatja az unalmas munkát, és szabadidőnket más tevékenységekre szabadíthatja fel.
Bár sok pesszimistább lehetőség is létezik. Néha meglehetősen ésszerűek, és van bizonyos jelentésük.
Munkahelyek elvesztése
A technológia fejlődésének gyors változásai meghaladhatják az emberek egyéni alkalmazkodását. Ez egy vagy több generáció elvesztéséhez vezet, akik nem lesznek képesek megszerezni az új valósághoz való alkalmazkodáshoz szükséges készségeket vagy ismereteket. Vagyis ez viszont azt jelenti, hogy kevesebben tudják majd megtartani az állásukat. Ehelyett gépek, automatizált rendszerek és robotok fogják végrehajtani. A válasz azonban nem ilyen egyértelmű, ha képzett szakemberekről van szó. Emellett megjelenhetnek új, kifejezetten a mesterséges intelligencia-algoritmusok fejlesztéséhez kapcsolódó szakmák. De még mindig vannak kockázatok, és az emberiségnek nincs joga figyelmen kívül hagyni őket.
Az ellenőrizetlen hatalom veszélye
Ha egy olyan erős mesterséges intelligencia, mint a Project Q*, aljas szándékúak kezébe kerül, az katasztrofális következményekkel jár az emberiség számára. A Project Q* döntéshozatali szintje még potenciálisan rosszindulatú szándék nélkül is káros eredményekhez vezethet, ami aláhúzza az alkalmazás gondos értékelésének kritikus fontosságát.
Ha a Project Q* rosszul van optimalizálva az emberi szükségletekre, károkat okozhat, mivel képes maximalizálni néhány tetszőleges mérőszámot. Vagy lehet politikai dimenziója, például állami megfigyelésre vagy elnyomásra használják fel. A Q* projekt hatáselemzésével kapcsolatos nyílt vita segít meghatározni a ZHI fejlesztésének lehetséges forgatókönyveit.
„Ember vs. gép” leszámolásra készülünk?
Hollywood már sok forgatókönyvet készített egy ilyen összecsapásra a filmjeiben. Mindannyian emlékszünk a híres SkyNetre és egy ilyen felfedezés következményeire. Lehet, hogy az OpenAI kutatóinak újra meg kellene nézniük ezt a filmet?
Az emberiségnek el kell fogadnia a jeleket és a kihívásokat, és fel kell készülnie arra, ami történhet. Egy emberként gondolkodni képes mesterséges intelligencia modell egy napon az ellenségünkké válhat. Sokan azzal érvelnek, hogy a jövőben a tudósok pontosan tudni fogják, hogyan kell kordában tartani a helyzetet. De ami a gépeket illeti, nem zárhatja ki teljesen annak lehetőségét, hogy megpróbálják átvenni az embereket.
Szintén érdekes: Nem minden, amit AI-nak nevezünk, valójában mesterséges intelligencia. Íme, amit tudnod kell
Miért hallgat az OpenAI?
A Project Q* iránti őrjöngő közérdeklődés ellenére az OpenAI vezetése hallgat az algoritmus sajátosságairól. A belső kiszivárgás azonban azt mutatja, hogy a laborban egyre nő a feszültség a prioritások és a fejlesztések nyitottsága miatt. Míg sok OpenAI bennfentes támogatja a Project Q* létrehozását, a kritikusok azzal érvelnek, hogy az átláthatóság háttérbe szorult a tudományos haladás bármi áron történő felgyorsításában. Néhány kutató pedig attól tart, hogy hihetetlen hatalmat kapnak azok a rendszerek, amelyek céljai nem feltétlenül esnek egybe az emberi értékekkel és etikával. Ezek a kutatók úgy vélik, hogy a felügyelet és az elszámoltathatóság körüli viták veszélyesen elnémultak. Több nyilvánosságot és részleteket igényelnek.
A Project Q* megalkotóiként az OpenAI-nak meg kell értenie, hogy olyan technológiájuk van, amely vagy nagymértékben kibővítheti a társadalom fejlődésének lehetőségeit, vagy könyörtelenül tönkreteheti azt. Az ilyen jelentős innovációk sokkal nagyobb átláthatóságot érdemelnek a közbizalom kiépítése érdekében. A gép korának minden előrejelzőjének gondosan mérlegelnie kell a kockázatokat az előnyök mellett. A Project Q* fejlesztőinek pedig kellő bölcsességet és törődést kell mutatniuk ahhoz, hogy biztonságosan bevezessék a társadalmat az általános mesterséges intelligencia új korszakába, amely hamarabb eljöhet, mint azt valaha is képzeltük.
Ahhoz, hogy az általános mesterséges intelligencia hasznos és biztonságos legyen az emberiség számára, biztosítani kell, hogy biztonságosan, etikusan, az emberiség értékeivel és céljaival összhangban működjön. Ez megköveteli a megfelelő szabályozási aktusok, szabványok, szabályok és protokollok kidolgozását és végrehajtását, amelyek szabályozzák és korlátozzák a CSI tevékenységeit és viselkedését. Emellett meg kell szüntetni a visszaélésekkel, balesetekkel, összeférhetetlenségekkel, manipulációkkal és konfliktusokkal kapcsolatos lehetséges fenyegetéseket és kockázatokat, amelyek az emberiség pusztulásához vezethetnek. Eközben a befektetők ill Microsoft mohón vár egy olyan piacképes terméket, amely profitot termelhet, ami kétségtelenül ütközik a felelősségteljes cselekvés szükségességével. Reméljük a józan ész győz.
Olvassa el még: