Digitális neogyarmatosítás: elsöprő AI technológiai trend és európai compliance aknamezők

The largest annual AI conference in Hungary, AI Summit 2024, has just ended. During the renowned event, data protection expert János Kopasz gave a comprehensive presentation on the AI geopolitical ecosystem and digital compliance challenges. Below is a summary of the highlights of his presentation.

This article is available in Hungarian.

Nemrég zajlott le az év legnagyobb mesterséges intelligencia konferenciája, az AI Summit 2024, amelyen Dr. Kopasz János adatvédelmi szakértő, a Taylor Wessing nemzetközi ügyvédi iroda ügyvédje tartott egy átfogó előadást az AI geopolitikai ökoszisztémájáról és a digitális compliance kihívásokról. Az előadás rávilágított arra, hogy az AI körüli máig tartó hype-ot milyen mögöttes gazdasági erők és versengés táplálja túlmutatva a technológia óriásplatformokon és regionális versengést eredményezve az Európai Unió, Egyesült Államok és Kína között. Ez a verseny nemcsak az AI jövőjét formálja, hanem a cégeket is komoly megfelelési kihívások elé állítja. A következőkben a helyszíni beszámolónkat olvashatják az előadás legfontosabb részleteiről.

Welcome to the noise: töretlen hype és elsöprő technológiai trend

A nagy nyelvi modellekkel a köztudatba berobbanó AI forradalom lendülete máig töretlen – a „machine learning,”, „etikus AI”, „prompt” és „szingularitás, avagy az emberi képességeket meghaladó AI”, mint fogalmak már régóta a közbeszéd részei. Még frissen emlékezhetünk arra a történelmi pillanatra, amikor a ChatGPT 2022. novemberi berobbanásával alig két hónap alatt 100 millió aktív felhasználóra tett szert (több, mint Németország teljes lakossága). Eredményeinek átütő erejét mutatja, hogy korábbi rekorderek, mint a TikTok (9 hónap), Instagram (2,5 év), Facebook (4,5 év) és Netflix (10 év) sokkal hosszabb idő alatt érték el ezt a felhasználói bázist, jól szemléltetve a ChatGPT technológiai jelentőségét és az AI növekvő befolyását.

És ez csupán egy nagyon szűk szelete az AI felhasználásának, hiszen az önvezető autók fejlesztésétől, az ipari robotikáig, a fintechtől a gyógyszerkutatásig kivétel nélkül felforgatta valamennyi üzleti szektort az AI. „Az AI körüli hype folyamatosan növekszik, alapvetően a technológia diszruptív és transzformatív hatásának köszönhetően. Ahogy Bill Gates fogalmazta, olyan felforgató erőt jelent korunkra, mint korábban az elektromosság, telefon, PC, internet általánossá válása jelentett. Valóban az AI egy olyan socio-economic jelenség, amelynek felhasználási lehetőségei szinte végtelenek és előre nem láthatók, ezért generálja ezt a fantasztikus felhajtó erőt és állandó társadalmi zajt az egyén, a társadalom és a regionális gazdaságok szintjén, amelyek megindították az AI technológia megzabolázásáért és kiaknázásáért zajló globális versenyt” - fogalmazott Dr. Kopasz János adatvédelmi szakértő.

A digitális neogyarmatosítás korába lépve: „ingyenes” személyre szabott élmény rejtett költségekkel

A technológiai vívmányokért folytatott globális harc nem újkeletű; a digitális infrastruktúra kiépülésével, különösen a ’90-es évek internetforradalmának köszönhetően, exponenciális sebességgel indultak hódító útjukra a mai tech birodalmak, az adataink erőforrásként („új olajként”) történő gazdasági hasznosítása révén.

Az ingyenes szolgáltatások bőrébe bújtatott közösségi platformok indították el azt a digitális aranylázat, amely mára odáig vezetett, hogy minden kattintásunk, like-unk a tech óriások pénztárcáját gazdagítja, köszönhetően a kifinomult reklámalgoritmusoknak. Az adataink modern fizetőeszközzé válását akár digitális gyarmatosításként is értelmezhetjük, ahol a tech cégek adataink leszüretelésével teremtenek gazdasági értéket. Ennél aggasztóbb azonban, hogy ezek a technológiai óriások – gyakran nagyobb bevétellel rendelkeznek, mint egyes nemzetállamok GDP-je – és a profilozás révén többet tudnak rólunk, mint akármelyik titkosszolgálat

A Google például 2022-ben 282 milliárd dolláros bevételt ért el, amely meghaladja Új-Zéland vagy Magyarország teljes éves GDP-jét. A Facebook napi aktív felhasználóinak száma meghaladja a 2,9 milliárdot, ami nagyobb léptékű befolyást jelent, mint bármely nemzetállam közvetlen hatása.

„Mindez számtalan veszélyt és kockázatot rejt, amire már számos példa volt, az ártalmatlannak tűnő vásárlási szokásaink befolyásolásától egészen a komolyabb politikai választások (Cambridge Analytica) és véleményünk dezinformációval történő manipulálásáig. Ez az a pont, ahol a szabályozás sem maradhat tétlen, és ellenfékeket kell képeznie a technológia nem „rendeltetésszerű” használatával szemben” – fogalmazott Dr. Kopasz János ügyvéd.

Globális AI harc: USA vs. Kína vs. EU

Az AI technológia fejlődése jelenleg túlnyomórészt az Egyesült Államok és Kína dominanciája alatt áll. Az AI-ban piacvezető cégek többsége Amerikában található, míg az AI szabadalmak számában Kína jár az élen. Az AI beruházások volumenében és nagyságrendjében az Egyesült Államok és Kína egyaránt vezető szerepet töltenek be, jelentős előnnyel az európai versenytársakhoz képest.

Európa az etikus és emberközpontú AI megteremtésével és a világ első átfogó mesterséges intelligencia szabályozásával, az AI Act-tel próbál vezető szerepet betölteni a globális versenyben. A kérdés az, hogy ez a szabályozási megközelítés elegendő lesz-e az AI verseny területén való helytálláshoz, vagy csupán további akadályokat gördít az (európai) cégek elé.

Míg az Amerikai Egyesült Államok alapvetően a piac alul- és önszabályozására épít, előnyben részesítve a szektorális normákat, támogatva ezáltal is az innováció és privát befektetések körüli gátak lebontásával a Szilícium-völgy vezette globális tech titánok és startupok fejlődését, addig Kína az AI versenyben előkelő és befolyásos helyét egy teljesen más megközelítéssel érte el: az AI Act-ben is kifejezetten tilalmazott totális állami megfigyelés és társadalmi pontozórendszer közepette, jelentős állami felügyelettel és részesedéssel működő kontrollált társaságokon keresztül törekszik 2030-ig a világ vezető AI hatalmává válni. E célkitűzés elé próbálnak gátat szabni globális versenytársai, például az AI fejlesztésekhez nélkülözhetetlen óriási számítási kapacitással rendelkező GPU processzorok exporttilalmával, amely egyúttal az AI-hoz szorosan kötődő másik fronton, a félvezető- és processzorgyártás terén is versengést indított a három blokk között.

Európa jelenleg bár nem tud felmutatni elsöprő globális tech cégeket, ráadásul a digitális piacon mintegy 80%-ban külföldi termékekre, szolgáltatásokra, infrastruktúrára támaszkodik, mindezeket ellensúlyozandó kétirányú megközelítéssel próbálja előmozdítani a digitális felzárkózást: egyrészről átfogó digitális adatstratégiai programokkal igyekszik felzárkóztatni a digitalizáció terén a társadalmat (pl.: digitális írástudás általánossá válásának célkitűzésével), az infrastruktúrát (pl. az EU teljes 5G lefedettségének célul kitűzésével), gazdaságot (pl.: unikornis startupok támogatásával). Másrészről szabályozása révén igyekszik megszabni és korlátozni a globális AI és digitális verseny kereteit. „Az Európai Uniónak mondhatni a fő exporttermékké vált a digitális jogalkotása, amely extraterritoriális jellegénél fogva minden olyan külföldi cégre is kiterjed, amely az Európai Unióban található felhasználók számára kívánja szolgáltatásait nyújtani. E szabályozási hullám a GDPR-ral kezdődött, amely az adatvédelem új szintre emelésével immáron már a 6. éve jelentős compliance kihívások elé állítja az EU-n belüli és kívüli cégeket. Ebből a modellből inspirálódva korbácsolódott az EU digitális jogalkotási cunamija, amely többek között magába foglalja a Digital Services Actet, a Digital Market Actet és most a világ első átfogó AI szabályozását, az AI Actet is” – foglalta össze dr. Kopasz János adatvédelmi szakértő.

Brüsszel (mellék)hatás

„Amellett, hogy az európai felhasználók részére nyújtott digitális szolgáltatások esetében kötelező az AI Act és egyéb digitális jogszabályok alkalmazása akár harmadik országbeli vállalatoknak is, sok esetben külföldi államok és globális multinacionális cégek is gyakran az európai normákat veszik mintaként alapul, akár önszabályozás formájában önkéntesen is, akkor, ha megfelelésüket globális szinten kívánják standardizálni és jellemzően a legszigorúbb európai szabályozáshoz hangolni, ami a felhasználók és üzleti partnerek felé történő bizalomépítés eszköze is egyben. Ezt a jelenséget nevezzük Brüsszel-hatásnak, amely arra utal, hogy az EU szabályozásai - különösen az adatvédelem, platform jogok és most már az AI területén - képesek globális mintaként szolgálni és standardokat felállítani. Ez nemcsak az EU-n belül, hanem világszerte formálja a piaci szabályokat, mivel a cégek kénytelenek megfelelni ezeknek a szabályoknak, ha hozzá akarnak férni az EU piacához, amely a világ egyik legnagyobb fogyasztói bázisát képviseli” – foglalta össze dr. Kopasz János ügyvéd a Brüsszel-hatás lényegi elemét.

Az európai digitális szabályozási cunami leglényegesebb alkotókövei: az AI Act, a Digital Services Act és a Digital Market Act, a „European by design” szemléletet képviselik. Ez azt jelenti, hogy az EU szabályozásai az etikus, tisztességes, átlátható és emberközpontú digitális szolgáltatások nyújtását helyezik előtérbe, védelmezve a felhasználók alapvető jogait és európai értékeket. A Brüsszel-hatás miatt ezek a szabályok nemcsak Európában, hanem globálisan is hatást váltanak ki, mivel a cégek gyakran kénytelenek az EU szabályait alkalmazni, ha nem akarják elveszíteni a hozzáférést az európai piacokhoz. Ezek a jogszabályok rendeleti formájuk és extraterritoriális hatályuk miatt kiemelkedően szigorúak, és gyakran nagy bírságokkal fenyegetnek, komoly compliance kihívásokat teremtve a cégek számára világszerte. Az EU szabályozási modellje ezért gyakran tekinthető „gold standard”-nak, amely befolyásolja a globális piaci működést és segít az európai értékek és alapvető jogok érvényesítésében a digitális világban.

A kiszámítható és biztos jogszabályi környezet ellenére egy Brüsszel-mellékhatásként értelmezhető a piacon szereplő és arra belépni szándékozó cégek számára a jelentősebb compliance költségek, azonban ez az ára annak, hogy egy kontrollált és kiszámítható, európai értékek mentén szerveződő digitális világot próbálunk teremteni, ahol a társadalomra és az alapvető emberi jogokra elfogadhatatlan kockázatot jelentő AI alkalmazásokat az AI Act kockázatarányos megközelítési rendszere egyértelműen megtiltja az EU területén és állampolgárai irányába.

Az egészségünkre, testi épségünkre, biztonságunkra, alapvető jogainkra kockázatot jelentő AI alkalmazásokra, mint magas kockázatúakra, szigorú termékmegfelelőségi követelményeket ír elő, és megköveteli, hogy az alacsony kockázatú, de AI technológiával generált tartalmak kapcsán is tudatában legyünk annak, hogy nem emberi interakcióval állunk szemben, akár egy deepfake képről/hangról, akár egy chatbottal kommunikálunk.

Tágabb digitális kontextusban az EU megköveteli, hogy mindaz, ami a való életben jogellenes, az a virtuális létben is egyértelműen az legyen, így biztosítva lényeges jogosultságokat a platformokkal szemben a DSA tárgyköre alatt, vagy egyenlő piaci versenyfeltételeket a digitális európai piacon a DMA és DA alkalmazásával.

Digitális compliance forradalom

Láthatjuk, hogy az elmúlt években egy olyan digitális jogszabálycsomag cunami érte el a vállalatokat, amely jelentősen átalakítja a működést, és kudarcra ítéli a korábbi compliance és vállalatirányítási szemléleteket. A digitális forradalommal párhuzamosan zajlik a digitális compliance forradalom, ahol a jogi megfelelés érdekében a hagyományos jogi osztályoknak a frontvonalra kell lépniük. Holisztikus, több szakterületet átfogó megközelítés és red-team felállítása szükséges minden digitális társaság esetében. A technológia által hozott kihívások az IT, compliance, jog, marketing, HR és egyéb társosztályok összehangolt bevonását kívánják meg.

A klasszikus check-lista szerinti megfelelés már nem elegendő; folyamatos nyomon követés, felügyelet és kiigazítás szükséges. Már az AI Act alkalmazása előtt is új és működő belső szabályozásokkal kell rendelkeznünk, a digitális termékek beszerzésétől a megfelelő munkavállalói szabályzatok kialakításáig, amelyeket átfogó due diligence-szel és kockázatarányos megfelelési politikákkal kell támogatni.

Ezen rendszerek működése folyamatos figyelmet és tréninget kíván, különösen az adatvédelmi, etikai, kibervédelmi és ESG szempontok figyelembevételével. Ha nem építünk megfelelő compliance struktúrát, akkor könnyen elkerülhetetlenek lehetnek a reputációs veszteségek és jelentős bírságok, amelyek a GDPR, AI Act, NIS2 és DORA szabályokból fakadnak.

A digitális compliance szükségszerűségét felismerve kell belőle versenyelőnyt kovácsolni: a megfelelőség növeli a cég értékét, bizalmat épít, és optimalizálja a működést, megkímélve a céget jogi és pénzügyi kockázatoktól. A digitális korban a jogi megfelelés nem csak opció, hanem alapvető szükséglet, hogy a cég sikeresen működjön az új szabályozási környezetben.

„A digitális compliance szükségességét belátni csak addig nehéz, amíg nem nézzük át a GDPR, AI Act vagy ha érintettek vagyunk a NIS2/DORA követelményeit, és nem gondolunk bele abba, hogy egy hivatalból vagy bejelentésre indított hatósági ellenőrzés, vagy egy véletlen incidens, netalán egy célzott hackertámadás, milyen mértékű reputációs veszteséget, negatív sajtóvisszhangot és piacvesztést eredményezhet, nem beszélve a súlyos biztosítási és jogi költségekről és a vérható bírságok elrettentő mértékéről, amelyek a kibervédelem (NIS2) esetében akár az éves árbevétel 2%-ig, GDPR esetében 4%-ig, AI Act esetében 7 %-ig terjednek. Ezen körülmények közepette a felelős vállalatirányításnak már más útja nem maradt, mint a digitális jogi megfelelést a napirendünkre venni és folyamatosan fenntartani” – hívta fel az új digitális megfelelés fontosságára a figyelmet dr. Kopasz János a Taylor Wessing nemzetközi ügyvédi iroda adatvédelmi szakértője.