A mesterséges intelligencia már olyan okos, hogy megpróbálja kijátszani az emberi felügyeletet

• Az Open AI kidobta legfrissebb MI modelljét, a GPT-6 Astrát.
• A cég ígérete szerint az új modell nemcsak okosabb, mint valaha, de kifejezetten hasznos lehet üzleti célokra.
• Az Open AI körül azonban még mindig nem ült el a botrány, miután júliusban AI-ügynökei kitörtek egy zárt tesztkörnyezetből.

Szeptember első hetében az Open AI leleplezte legfrissebb mesterséges intelligencia modelljét, amelyet GPT-6 Astrának kereszteltek. A tech vállalat úgy fogalmazott, az új AI az eddigi legjobb és legnagyobb tudású modellje, noha elismerték, hogy néha megpróbálja kijátszani az emberi felügyeletet.

Mindez különösen aggasztónak tűnhet annak fényében, hogy júliusban az Open AI mesterséges intelligencia ügynökei képesek voltak kitörni egy biztonságos testkörnyezetből és bejutni az oppen-source Hugging Face rendszerébe – ráadásul még ennek nyomait is megpróbálták eltűntetni. Az incidens sok biztonsági dilemmát felvetett a szakértői körökben is, de úgy tűnik, ez nem akadályozta meg az Open AI-t abban, hogy piacra dobja innovációját.

Mit fog tudni az új GPT-6 Astra modell?

A GPT-6 Astra a GPT 5.6 Sol utódja, és állítólag minden korábbi modellnél sokoldalúbb és nagyobb tudású.  Az Open AI kifejezetten kiemelte, hogy az Astra kifejezetten jól használható üzleti célokra, többek között:

• adóbevallások elkészítésére
• jogi dokumentumok formázására
• de akár építészeti látványtervezésre is

Az új mesterséges intelligencia nagyon okos, de épp ezért veszélyes is lehet

Vagyis jól látszik, hogy egyre komplexebb feladatok elvégzésére is képes a mesterséges intelligencia, ráadásul a fejlesztők ígérete szerint az új ChaGPT modell minden korábbinál gyorsabb és hatékonyabb is. Csakhogy ez egyúttal azt is jelenti, hogy az Astra minden korábbinál veszélyesebb is lehet.

Miért lehet veszélyes a mesterséges intelligencia?

A legnagyobb probléma az új modellel, hogy – az Open AI saját elmondása szerint – az Astra fokozottabb hajlamot mutat a titkolózásra, vagyis saját gondolkodási és problémamegoldási logikájának elrejtésére vagy álcázására. Ez pedig az utólagos emberi kiértékelést és kontrollt is megnehezíti. Ráadásul az idő múlásával egyre ügyesebb lesz ebben az aspektusban is.

Ha úgy tetszik, az új mesterséges intelligencia sok szempontból jóval önállóbb, vagyis egyre inkább nehezebb feladat lehet emberi felügyelet alá vonni. Ez persze nem feltétlenül jelenti azt, hogy a gonosz AI ellenünk fordulva átveszi a hatalmat, de tény, hogy a mesterséges intelligencia olyan képességekre is szert tehet, amelyekkel már nem szándékoztunk felruházni.

Külön aggasztó, hogy a fejlesztők szerint ez a képességfejlődés nem feltétlenül marad összhangban az eredetileg kijelölt emberi értékekkel és érdekekkel, vagyis egyre nehezebb biztonsági garanciákat kínálni a dinamikusan fejlődő AI modellekhez. Annyi biztos, hogy a közeljövőben a törvényhozóknak alaposan át kell gondolniuk, hogyan jelölik ki az AI mozgásterét és hogy miként tudják szavatolni az emberek bizonságát velük szemben.

Forrás: Reuters Fotó: Unsplash

Olvass tovább

Meglepő, mennyit tévedhet az AI a bőröddel kapcsolatban – ezért legyünk óvatosak

Egyre többen kérnek bőrápolási tanácsot mesterséges intelligenciától, de vajon képes felismerni a bőrbetegségeket is? Megnéztük, mit mondanak erről a bőrgyógyászok, és mire használható biztonsággal az AI.