Tetten érték a ChatGPT-t: ki nem találnád, honnan lopott adatokat a mesterséges intelligencia

Ma már a ChatGPT is rendelkezik úgynevezett "ügynök-móddal", melynek lényege, hogy a mesterséges intelligencia bizonyos értelemben önjáróvá válik, és - szűk körben bár, de - képessé válik arra, hogy a felhasználók helyett cselekedjen.

A ChatGPT elszabadul?

A ChatGPT-t, az OpenAI nevű vállalat által fejlesztett chatbotot hivatalosan 2022. november 30-án mutatták be a nyilvánosságnak - akkor még prototípusként -, és a nagy nyelvi modell azonnal óriási érdeklődést váltott ki mind a technológiai szektorban, mind pedig a szélesebb közönségben, sőt ma már azt is tudjuk, hogy feltűnése után kezdetét vette a mesterséges intelligencia máig tartó - sőt egyre csak fokozódó - forradalma. A ChatGPT azóta a felhasználók egyik kedvencévé nőtte ki magát: a diákok iskolai feladatok megoldására használják, a magánéleti drámákba keveredő szerelmesek és a stressztől szenvedő munkavállalók pszichológust látnak benne, a hipochonderek (illetve: cyberchonderek) pedig vélt vagy valós betegségeik, szorongásaik gyógyírját remélik a chatbottól, mely a nap 24 órájában elérhető, és bár tökéletesnek korántsem mondható, olykor bizony meglepően összeszedett, hiteles és kompakt válaszokkal képes szolgálni az érdeklődőknek.

Manapság egyébként már a ChatGPT is rendelkezik úgynevezett "ügynök-móddal", melynek lényege, hogy a mesterséges intelligencia bizonyos értelemben önjáróvá válik, és - szűk körben bár, de - képessé válik arra, hogy a felhasználók helyett cselekedjen. Még akár az interneten is önállóan böngészhet, tallózhat, kereshet, sőt akár le is kattinthat linkeket. Mindez önmagában akár üdvözlendő fejlemény is lehetne, csakhogy a biztonsági szakemberek máris kongatják a vészharangot.

Nemrégiben ugyanis azonosítottak egy komoly aggodalomra okot adó sebezhetőséget a rendszerben, melyet kihasználva úgy lehetséges szenzitív adatokat lopni a Gmailből, hogy arról a felhasználók mit sem sejtenek - hívja fel rá a figyelmet a Verge cikke.

Lapozz, a második oldalon folytatjuk!

Hozzáférés az érzékeny adatokhoz

A Radware biztonsági szakemberei bukkantak rá a Shadow Leak néven elhíresült sebezhetőségre. A kutatók kiemelték: mivel az ügynökök a felhasználó nélkül, önállóan is elvégeznek bizonyos - apró, de mégis fontos - műveleteket, ezért így értékes perceket lehet megtakarítani, ehhez azonban feltétlenül szükséges, hogy az ember hozzáférést adjon a személyes e-mail-fiókjaihoz, illetőleg a dokumentumaihoz. A Radware szakértői egy úgynevezett prompt-befecskendezéses eljárással használták ki az eszköz segítőkészségét, melynek örvén az ügynököt a támadó szolgálatába lehetett állítani - írja a 24.hu. A csaló kódot egy elektronikus levélben rejtették el, melyet az ügynök által hozzáférhető Gmail-fiókba továbbítottak.

Az ügynök következő használatakor a kód működésbe is lépett, illetve kiadott egy rejtett utasítást, amelynek az volt a célja, hogy keressen meg e-maileket, személyes adatokat, és csempéssze ki azokat a hackerek számára. A felhasználók erről mit sem sejtettek.

Lapozz, még nem értél a cikk végére!

Az üzleti adatok sincsenek biztonságban?

Örvendetes ugyanakkor, hogy a szakemberek vért izzadtak a feladat megoldásakor: véleményük szerint a teszt minden kétséget kizáróan azt bizonyítja, hogy a cégek határozott lépéseket tettek annak érdekében, hogy egy ügynököt kifejezetten nehéz legyen rábírni a nem megfelelő működésre. Így aztán jelentősen csökkenhet annak az esélye, hogy észrevétlenül adatok szivárognak ki.

A Radware munkatársai kiemelték: tanulmányukkal arra kívánták felhívni a figyelmet, hogy a ChatGPT-hez kapcsolt más alkalmazások szintúgy védtelenek lehetnek a hasonló támadásokkal szemben. És ez azért baj, mert az eszköz problematizált, mélykutatási funkciója egyszerűen hozzákapcsolható az Outlookhoz, a GitHubhoz, a Google Drive-hoz, és a Dropboxhoz is, ami pedig már különböző üzleti adatok, illetve szerződések biztonságát is veszélyeztetheti. A jelentés közzététele után az OpenAI befoltozta a biztonsági rést.

Leadfotó: 123rf