Pintér Róbert: A mesterséges intelligencia nyomában – E-volution

Napjainkban az egyik legizgalmasabb terület, egyben talán a leginkább elhasznált technológiai buzzword a mesterséges intelligencia (MI). Magyarországon is egyre többen kezdenek el a területtel foglalkozni, emiatt is érdekes lehet látni, hogy máshol, mások hogyan gondolkodnak a témáról. 2018 végén és 2019 elején volt szerencsém három nemzetközi rendezvényen is részt venni, amely a mesterséges intelligenciával foglalkozott:

1. Az első 2018 októberében Brüsszelben került megrendezésre a V4 országok részvételével, ahonnan elsősorban a politikai, európai szintű üzenetek voltak számomra a legfontosabbak.
2. A második a Google 2018 novemberi rendezvénye volt, ahol a cég legkurrensebb piaci szempontú megközelítéseivel ismerkedhettem meg, amelyeket elsősorban a civil és politikai szektor, valamint a média jelen levő képviselői számára fogalmazott meg a világ egyik legfejlettebb MI megoldásait felmutató vállalat.
3. Végül a harmadik eseményt egy civil szervezet rendezte meg: az Aspen Intézet fiatal, kelet európai szakembereket hívott meg, hogy ismerkedjenek meg a mesterséges intelligencia jelentette kihívásokkal, amihez két kiváló akadémiai kutató nyújtott előzetesen muníciót a kapcsolódó etikai és üzleti / társadalmi aspektusok ismertetésével.

Az alábbiakban mindhárom rendezvényről a számomra legfontosabb gondolatok kerülnek röviden kiemelésre, hogy lássuk hol tart a mesterséges intelligencia napjainkban Európában.

Mesterséges intelligencia: a digitális transzformáció lelke – beszámoló a V4 országok mesterséges intelligencia konferenciájáról

V4 Conference on Artificial Intelligence, 2018 október 11, Brüsszel, Belgium

Kevesen tudják idehaza, hogy az OECD országok közül az autóipari fellegvárnak számító Szlovákia munkahelyeit fenyegeti leginkább az automatizáció és az abból fakadó gazdasági változás.[1] Nem véletlen hát, hogy a visegrádi négyek a szlovák V4 elnökség alatt rendezték meg a négy ország első, mesterséges intelligenciával foglalkozó konferenciáját Brüsszelben, 2018 október 11-én. Ott jártam az intenzív, egy napos rendezvényen, az itt olvasható beszámoló arról szól, ami az elhangzottak közül számomra a legizgalmasabb volt.[2]

A konferencia több célt is szolgált, ahogy a megnyitó beszédekben elhangzott, a V4 országok hisznek abban, hogy képesek pozitív üzenetet megfogalmazni európai szinten is a mesterséges intelligencia társadalmi és gazdasági vonatkozásairól. Az Európai Uniónak megfelelő jogi (szabályozási) és gazdasági, társadalmi környezetet kell biztosítani az MI-hez, mivel az egyszerre segíthet megoldást találni számos kihívásra (például a munkaerőhiányra vagy az elöregedő társadalomra), miközben azonban önmaga is óriási változásokat hoz, amit tudni kell kezelni. Csak Szlovákiában az OECD előrejelzése alapján[3] a munkahelyek 34%-a van veszélyben az automatizáció miatt. A cél az, hogy az MI-t működőképessé tegyük Európa számára és hogy egyensúlyt találjunk a technológia és az élet között.

Számomra a nap egyik legelgondolkodtatóbb előadását Vladimir Sucha[4], az Európai Bizottság Joint Research Centerének[5] vezetője tartotta. Véleménye szerint a MI a digitális transzformáció kulcsa és egyúttal az utóbbi évtizedek egyik legfontosabb jelensége, bár nem új téma, mivel már legalább az 1950-es évek óta kutatjuk, de most kezd igazán berobbanni ez a terület. A mesterséges intelligencia háttér folyamataihoz ugyanis elengedhetetlen az adatok megfelelő mennyiségben és minőségben való összegyűjtése, az erre épülő gépi tanulás, a mintázatok felismerése és ezután a döntéshozás. A kulcsot az adatok összegyűjtése és feldolgozása jelenti, az elmúlt 70 évben azért nem tudott gyorsabban fejlődni a terület, mivel nem volt hozzá sem elegendő adat, sem megfelelő adatfeldolgozási kapacitás.

Sucha szerint egyelőre az Egyesült Államok invesztál a legtöbbet az MI fejlesztésébe, az EU és Kína holtversenyben a második-harmadik helyen található, de a kínai aktivitás olyan mértékben nő, hogy hamarosan átvehetik a vezető szerepet, miközben az EU a britek kiválásával a beruházások negyedét elveszíti. A V4-ek egyelőre nem igazán aktívak ezen a területen, pedig érdemes volna sokkal inkább az MI-re koncentrálnunk, mint mondjuk a migráció kérdésére. A V4 országokban egyelőre alacsony az igény MI szakértőkre, így a témában aktív szakemberek más országokban keresnek állást, tehát elindult az agyelszívás – bár ez európai szinten is problémát jelent. Sucha elődásának konklúziója, hogy az Európai Uniónak MI és adat stratégiára van szüksége, mivel nagyon gyors és társadalmakat erőteljesen polarizáló változások jönnek, amik lehetnek pozitívak és negatívak is attól függően, hogy hogyan kezeljük őket. Viszont, ami európai szinten kiemelten fontos, hogy egyetlen tagállam sem lehet sikeres egyedül ebben a folyamatban. Az MI fejlesztéseknek, változásnak a közös európai értékeken kell alapulnia, egyszerre kell etikusnak és befogadónak lennie. Végül a már Európában most is fejlett MI területekre érdemes fókuszálni, mint a robotika vagy az összekapcsolt és automatizált járművek.

Sucha arról is beszámolt, hogy az Európai Unió 2018 novemberében teszi közzé a mesterséges intelligenciával kapcsolatos riportját, amit a tavasszal felállított magas szintű szakértői csoport (High-Level Expert Group on Artificial Intelligence[6]) készített.

A konferencia a nyitó előadásokat követően négy témára fókuszált, ezek a tudomány, kutatás és az MI fejlesztése; az ipar és a gazdaság; a társadalmi változások és a várható munkaerőpiaci hatások és végül a cyberbiztonság. Mind a négy szekcióban négy eltérű nemzetiségű szakértő ült a V4 országok képviseletében és egy EU-s vagy más nemzetközi szervezet – OECD és NATO – magas beosztású munkatársa vezette a beszélgetést.

Az első, tudományos szekció legfőbb gondolataként az azt elnöklő Alessandro Annoni (Head of Unit Digital Economy, EC, DG JRC) nyomán azt emelném ki, hogy elsősorban négy területen kell most dolgozni, ezek az adatokhoz való nyílt, de szabályozott hozzáférés; a tehetséges szakemberek megtartása és újak képzése; a hatékonyan működtethető hatalmas számítási erő és kapacitás megteremtése; végül a megfelelő algoritmusok létrehozása és azok működésének megértése.

A második, elsősorban a gazdasággal foglalkozó szekcióból Benedek Péter, a magyar Blockchain Kompetencia Központ[7] ügyvezető igazgatójának állítását ragadnám ki, aki szerint a megfelelően menedzselt mesterséges intelligencia kétszámjegyű növekedést hozhat a GDP-ben, amiből érthető okokból senki sem akar kimaradni.

A harmadik, munkaerőpiaccal foglalkozó szekciónál az azt záró beszélgetésből az egyik hallgatói kérdést idézném fel, miszerint az Európai Uniónak komolyan el kellene kezdeni azzal a kérdéssel foglalkoznia, hogy mi fog értelmet adni az emberek életének, ha tömegek nem fognak tudni dolgozni, mivel fogják tölteni az idejüket, mitől fogják magukat a társadalom hasznos tagjának érezni.

A negyedik, cyberbiztonsági szekcióból kiemelt észrevétel, hogy a MI és az általa vezérelt eszközök bármit megtámadhatóvá tesznek és az olyan nagyméretű harcászati eszközök, mint amilyen egy hadihajó vagy egy repülőgép flotta, egyre kevésbé lesznek relevánsak. Mindeközben a cyberhadviselés lehetővé teszi, hogy ne a csatatéren kelljen legyőzni az ellenfelet, hanem a „hátországban” okozhassunk neki komoly problémát, működésképtelenné téve fontos infrastruktúrákat vagy társadalmi bizonytalanságot és zavart keltve.

Végül a konferencia zárszavában öt gondolatot emeltek ki a szervezők kulcs üzenetként a résztvevők számára:

–          a mesterséges intelligencia kérdése sürgős, amit európai szinten és közösen kell kezelnünk

–          a jó mesterséges intelligencia alapja a megfelelő minőségű és mennyiségű adat, valamint annak értő feldolgozása

–          az MI egyszerre fog létrehozni és eltüntetni munkahelyeket, amit folyamatosan monitorozni kell és időben közbelépni, ha szükséges

–          ahhoz, hogy felkészültek legyünk arra, ami jöhet, több jövő forgatókönyvre van szükségünk, több eshetőségre is készen kell állnunk cselekvési tervvel

–          közösen kell fellépnünk, hogy a mesterséges intelligenciát Európa szolgálatába állítsuk, ehhez pedig Európában kell tartani a terület legjobb európai szakértőit.

A konferenciáról rövid videós beszámoló is készült a PosztmodeM segítségével[8] még a helyszínen, ami az első benyomásokat rögzítette és visszaadta az ott tapasztalható hangulatot is.

A Google MI fejlesztései: fókuszban a jelen

Making AI at Google, 2018. november 6-7, Amszterdam, Hollandia

A Google 2018 november elején rendezett Amszterdamban Making AI címmel egy átfogó mesterséges intelligenciával foglalkozó eseményt, ami egyszerre volt klasszikus konferencia; illetve termékbemutató, ahol lehetővé tették az eszközök valós környezetben való kipróbálását is; valamint felhívás szervezetek számára MI-hez kapcsolódó projektek benyújtására; végül látogatás egy jól berendezett demo okos otthonba. Mindezt az EMEA régió számára szervezték, így Európa, a Közel-Kelet és Afrika politikai döntéshozói, tanácsadói, szakértői és média képviselői vehettek részt elsősorban a rendezvényen.[9] A Google célja volt az is, hogy bemutassa annak publikus részét, hogy min dolgozik az MI központjainak hálózata (a régióban többek között Accra-ban, Amszterdamban, Berlinben, Haifa-ban vagy éppenséggel Zürichben…).[10] A fókusz abszolút a jelenleg elérhető vagy a közeljövőben várható megoldásokon volt, vagyis az derült ki, hogy hol tart most az MI a Google-nél, mit fejlesztenek, milyen etikai elveket vallanak (megkaptuk a Google etikai elveit is szép színes kiadványban, ami egyúttal a száraz leíráson túl bemutatta a Google területhez kapcsolódó kezdeményezéseit is).

Az első nap legelején a Google.org, a Google civil szervezeteket támogató része mutatkozott be, amelynek képviseletében Brigitte Hoyer Gosselink (Head of Product Impact) jelentett be egy új programot, az Impact Challenge-t, aminek az „AI for social good” (szabadon úgy fordíthatnánk le, hogy „MI a társadalmi előrehaladásért”) idea áll a középpontjában. Ez első körben egy 25 millió dolláros költségvetéssel rendelkező kezdeményezés[11], amely olyan, elsősorban civil projekteket támogat, ahol a Google jelenleg működő és elérhető MI megoldásait lehet felhasználni társadalmi célokra. Hogy könnyebb legyen képet alkotni arról, hogy mi mindenre lehet a való világban az MI-t felhasználni valami nagyobb társadalmi cél elérésére, bemutattak egy pilot projektet, a Rainforest Connection-t, ami az esőerdőkben folyó illegális fakitermelést füleli le az MI segítségével.[12] Ehhez okostelefonokat telepítettek fák tetejére, amik folyamatosan „hallgatóznak” és egy központba továbbítják a hangfelvételeket, ahol a Google MI megoldásai segítségével azonosítják, ha a felvételen motoros fűrész hangja hallható. Ez egyébként egy elég monoton és unalmas feladat lenne, ha embereknek kellene végezni, ráadásul az emberi fül kevésbé érzékeny, mint az MI, ami több kilométer távolságból is képes lehet kiszűrni egy fűrész hangját. Mindez valós időben történik, hogy az erdőkerülőket értesíteni lehessen és tetten tudják érni a fatolvajokat. A projekt sikerét mutatja, hogy az első kísérletek már elkezdődtek, hogy máshol is telepítsék a rendszert, például Romániában is kipróbálják a megoldást az illegális fakitermelés visszaszorítására. A legnagyobb kihívás az időjárási körülményeknek, a rovaroknak és a majmok kíváncsiságának ellenálló szerkezetek készítése, mivel előbbiek megrágnak, megesznek mindent, utóbbiak pedig alig várják, hogy levonuljanak a szerelők és megnézzék mik is kerültek fel a fákra.

Az első nap délutánján az előadásokat követően két csoportra osztva közös kirándulást tett a nagyjából száz főből álló hallgatóság, aminek része volt a korábban színpadon is bemutatott Pixel 3-as telefon kipróbálása, amiben a hardver, a szoftver és a mesterséges intelligencia hármasa közösen működik együtt, hogy a különböző szolgáltatások, például a fényképezés még jobban menjen. Ez a fotózás esetében többek között a sötétben való fényképkészítésben, a portré készítésben, a mozgó objektumok lefényképezésében stb. segít igazán. A Google szerint jobb képeket tud a Pixellel egy laikus készíteni, mint profi DSLR kamerával, ahol egyrészt a kép megkomponálása, beállítása is előzetes ismereteket igényelhet és rendszerint sok utómunkával járhat a végleges kép elkészítése is. A kezünkbe kaparintott Pixel 3 telefonon ki lehetett próbálni az előre telepített alkalmazásokat, a fotózást, a Google Translate-et vagy a Google Lenst. Utóbbi valós időben fordít le képről feliratokat, ismer fel épületeket, tárgyakat (például egy cipőt, órát), növényt – majd elmondja, hogy mit lehet róluk tudni, de, ha érdekel minket, akkor elárulja, hogy hol és mennyiért lehet őket megvásárolni, vagy hol lehet teszteket és ismertetőket olvasni róluk. Az első napi kirándulás része volt egy teljesen berendezett demo okos otthon megtekintése és kipróbálása is, ahol hangvezérléssel lehetett irányítani a Google okos otthon megoldásait, például parancsszóval le-fel kapcsolgatni a lámpákat vagy megváltoztatni azok színét a hangulatunknak megfelelően, vagy elindítani a filmnézést a kedvenc sorozatunk félbehagyott epizódjával egy okostévén, zenét hallgatni valamilyen stílushoz vagy hangulathoz illően. De szintén a hangunkkal szabályozhattuk a hőmérsékletet is. Végül bemutatták a Google keresést is hangvezérléssel, ahol a kereső kontextuson belül marad a párbeszéd során: ha megkérdezem milyen időjárás van Hágában, majd, hogy mikor megy vonat oda, akkor a rendszer pontosan érteni fogja, hogy melyik városra gondolok, amikor azt mondom, hogy oda.

A második napon az derült ki, hogy a Google két lábbal a földön jár és elsősorban az MI mai felhasználására, közeljövőben történő fejlesztésére, nem pedig valami futurisztikus jövőre gondol, amikor a mesterséges intelligenciáról beszél. A Google már most is mesterséges intelligencián alapuló cégnek tekinthető és ennek tette tanúbizonyságát a masodik nap, már-már egy „unalmasnak” tekinthető programmal. Persze ez csak a bizsergető, fényes jövőhöz vagy éppen az emberiség kiírtásával fenyegető apokaliptikus víziókhoz szokott fülnek lehetett unalmas, valójában igen sűrű és pörgős volt a második nap előadás-sorozata is.

Először a Google MI-vel dolgozó tudósai beszéltek a színpadon, akik saját maguk fejlesztik és alkalmazzák az MI-t. Google MI projektek mutatkoztak be, például Tim Salimans[13] a supervised learning korlátairól beszélt, majd a reinforcement learning megoldásaival mutatta be, hogy a mesterséges intelligencia már most is lehet korlátozottan kreatív, amikor zenét szerez interpolációval és rekombinációval. Szó volt arról is, hogy mire képes és nem képes a mesterséges intelligencia, hol vannak jelenleg a korlátai: Jakob Uszkoreit, a berlini MI csapat vezetője[14] például arról beszélt, hogy az MI egy nyelvi tesztben (Stanford Question Answering) már most is képes lehet ugyan megverni egy embert, ugyanakkor nem érti azt, amit saját maga válaszol, sem a nyelvi vagy társadalmi kontextust. A másik korlát, hogy jelenleg az MI fejlesztéséhez rengeteg jó minőségű adatra van szükség, amin tanulni tudnak az algoritmusok, ehhez pedig rendszerint sok emberi erőforrásra van szükség, ami előállítja, tisztítja, előzetesen kategorizálja ezeket az adatokat. Éppen ezért a Google sokat dolgozik azon, hogy automatizálja az ehhez szükséges lépéseket és az sem véletlen, hogy a Google nyilvánosan hozzáférhetővé teszi a tanulásra szánt adatbázisait, ezzel is segítve a terület gyorsabb fejlődését, ami végeredményben neki magának is jót tesz. De az is az MI korlátja, hogy az adatbázisokból kialakított algoritmusokra, erre épülő szolgáltatásokra, megfelelő üzleti modellre, kiváló felhasználói élményre és a mindezt megismertető, piacon működő marketingre egyszerre van szükség, hogy az adott MI alapú szolgáltatás végül elterjedjen és hasznot hajtson az embereknek és a Google-nek egyaránt. A sikerhez viszont az is kell, hogy ne csak ismerjék az emberek az adott szolgáltatást, hanem hogy megbízzanak benne, amihez transzparenciára van szükség. Tudniuk kell az embereknek, hogy az adott MI alapú megoldás nagyjából hogyan működik, mit várhatnak tőle, rábízhatják-e a Google-re az adataikat, nem fognak-e ezzel visszaélni stb.

Az MI-t fejlesztő mérnökök többnyire nem beszélnek a laikusok nyelvén, a laikusok pedig az ő nyelvükön, így erre számítva a Google példák segítségével próbálta közelebb hozni a résztvevők számára, hogy mit tud már napjainkban is az MI. Ennek ellenére a fejlesztőket mégsem ezekről, hanem arról kérdezték az előadásaik végén, hogy kell-e félni az MI-től – az érdeklődő laikusokat ugyanis elsősorban ez érdekli legelőször. De ezt pontosan tudta a Google is, így a második szekcióban a Google etikai elvei, intézkedései álltak a középpontban, amiket azért tesznek, hogy a korábban bemutatotthoz hasonló projektek megfelelő kontroll alatt készüljenek, ne „szabadulhasson el” az MI. A Google etikai elveit Jen Gennai (Head of Ethical ML, Trust and Safety, Head of Responsible Innovation, Global Affairs at Google)[15] ismertette. A cég hét elvet követ, amit négy kiegészítéssel is elláttak. A Google MI etikai elvei röviden (bővebb kifejtés az elveket ismertető oldalon olvasható angol nyelven[16]):

1. Társadalmilag hasznosnak kell lennie.
2. El kell kerülni a tisztességtelen torzítás (unfair bias) létrehozását és megerősítését.
3. Biztonságosnak kell megépíteni és ezt le is kell tesztelni.
4. Felelősnek kell lennie az emberek felé.
5. Magában kell foglalnia az adatvédelmi elveket.
6. A tudományos kiválóság magas színvonalát kell fenntartania.
7. Az ezen elveknek megfelelő felhasználáshoz kell hozzáférhetőnek lennie.

A négy kiegészítés pedig azt rögzíti, hogy a Google milyen területeken nem fog a jövőben MI megoldásokat fejleszteni:

1. Olyan technológiák, amelyek általában véve kárt okozhatnak.
2. Fegyverek és olyan eszközök, amelyek elsődleges célja sérüléseket okozni az emberek számára.
3. Olyan technológiák, amelyek információkat gyűjtenek vagy használnak megfigyelési (surveillance) célból és sértik a nemzetközileg elfogadott normákat.
4. Olyan technológiák, amelyek célja a nemzetközi jog és az emberi jogok széles körben elfogadott elveinek megsértése.

Ezek az etikai elvek azt a célt szolgálják, hogy ne kerüljön ki a kontroll alól az MI és ne okozzanak vele kárt, de legalább ugyanilyen fontosak a fejlesztések és a kapcsolódó szolgáltatások üzemeltetése során, hogy a felhasználói adatok se szivároghassanak ki, ne élhessenek vissza a Google által kifejlesztett megoldásokkal, ne használják se a Google-nél, se máshol rossz célokra azokat.

Számomra annak a cizelláltsága volt a legérdekesebb a két napban, ahogy a Google arra figyel, hogy a piacra, a felhasználókhoz eljutó szolgáltatások egyszerre feleljenek meg az etikai elveknek, legyenek üzletileg megtérülők és adjanak kiváló felhasználói élményt. Mindhármat folyamatosan monitorozzák, csiszolgatják és több ötlet, pilot projekt így el sem jut a fogyasztók elé, mert már korábban elvérzik. Öröm volt látni, hogy bár a Google egy mérnökök uralta cégnek tűnik kívülről, valójában társadalomtudósok, jogászok, közgazdászok és egyéb szakemberek hada dolgozik együtt, hogy a céget és szolgáltatásait folyamatosan sikerre vigye.

Egy számomra izgalmas következő szekcióban két olyan MI kutató veterán beszélgetett a színpadon, akik már 1992 óta, tehát a Google alakulása előtt is a területen kutattak. Fernando Pereira (VP, Engineering Fellow) és Yossi Matias (VP, Search and AI) arról beszélgettek, hogy egyre gyorsuló tempóban fejlődik az MI, amihez korábban évek kellettek, ahhoz most elég néhány hónap és több áttörést értek el az elmúlt két évben, mint az azt megelőző 5-10 évben. A hangfelismerés már 10 éve rendelkezésre áll, mára a különböző akcentusokat is remekül kezelik, de ami a legfontosabb, hogy a Google Assistant végre kezdi megérteni a kontextust (amire a Google Home-ban mi is láthattunk példát az előző nap). Mindez azért fontos, mert az emberek mindig egy adott kontextusban folytatják a beszélgetéseiket, ami nélkül sok esetben nem igazán lehet megérteni, hogy miről folyik a diskurzus. Ez kellett ahhoz is, hogy el tudjon indulni a Google Duplex, a cég hang alapú MI szolgáltatása, ami telefonon képes éttermi asztalt foglalni megadott időpontban vagy bejelentkezni a fodrászhoz stb. A következő áttörés az lesz, amikor az MI a nagyon szűk, pontosan definiált feladatokon túl kicsit komplexebb környezetben is elboldogul majd. Például úgy foglal majd asztalt, hogy figyelembe veszi azt, hogy utána oda kell érni egy koncertre is, így kalkulál a várható forgalommal, a parkolási idővel és hogy átlagosan milyen gyorsan lehet végezni az adott étteremben. Elvileg ezeket mind tudja most is a Google, az MI szolgáltatásuk mégsem képes ma még összekombinálni ezeket az információkat.

Ugyanakkor nem lehet előre megmondani mi várható a következő néhány évben, figyelembe véve, hogy az elmúlt években milyen gyors volt a fejlődés. És itt hangzott el talán a konferencia legfontosabb üzenete a laikusok és a döntéshozók számára is: a technológia elsősorban abban segít, hogy azzal foglalkozhassunk, ami igazán érdekel minket, ami fontos számunkra, miközben segít megoldani az ismétlődő, unalmas feladatokat, amiket nem akarunk igazán megcsinálni, csak muszáj foglalkozni velük. Persze abban szabadon hozhatunk döntést, hogy szeretnénk-e használni egy ilyen helyettesítő technológiát (mondjuk egy Google navigációt), vagy sem. Ugyanakkor az embereknek pontosan tudniuk kell, hogy mit várhatnak el egy ilyen technológiától annak érdekében, hogy képesek legyenek bízni benne és használják is azt. Ez nem azonos azzal, hogy értik annak részletes működését is, de legalább tudják, hogy mire hogyan reagál.

A mesterséges intelligencia már most is nagyon jól lát és hall, tud képeket felismerni, itt az ideje, hogy megtanítsuk arra, hogy mire megy mindezzel – hangsúlyozta a Google Brain, a Google AI részlegének vezetője, Jeff Dean[17], a rendezvény utolsó előadója. A Google számára az egyik legfontosabb ilyen új alkalmazási terület az egészségügy jelenleg, ahol vizsgálják, hogy hogyan lehetne minél hatékonyabban felhasználni az MI-t, mivel azt látják, hogy az orvosoknak szüksége lenne arra, hogy több időt tölthessenek a betegeikkel, ahelyett, hogy a számítógépek előtt ülnek és adminisztrálnak. Hasznos lenne számukra az is, ha egy-egy esetben kaphatnának egy második orvosi véleményt is, aminek a megalkotására az MI is képes lehet.

A másik nagyon fontos gondolat Jeff Deantől, hogy a jelenlegi supervised learning megoldásokat, ahol emberek segítségével óriási adatbázisokon tanítják be a mesterséges intelligenciát, fontos lenne hatékonyabbá tenni, hogy kevesebb adattal és kisebb emberi erőforrás befektetéssel is jó eredményeket lehessen elérni. Napjainkban korlátozott, szűk megoldásaink vannak a mesterséges intelligencia révén és ezeknek a feladatoknak az elvégzését az adat – modell – betanítás szekvencia ismételgetésével még nehézkesen, lassan tanulja meg az MI. Az emberek vagy az állatok viszont nem így tanulnak, szükség volna tehát arra, hogy ez hatékonyabb legyen, az intuíciót is be kell előbb-utóbb valahogy építeni a folyamatba, hogy az MI képes legyen általánosabb, komplexebb feladatok elvégzésére is.

Jeff Dean – a hallgatóságtól kapott kérdésre – kitért a jelenleg folyó MI versenyre is, amikor azt járta körbe, hogy vajon az EMEA régió képes lehet-e felvenni a versenyt Kínával és az Egyesült Államokkal a területen. Dean szerint az fog nyerni, aki képes lesz a legjobb ötleteit a gyakorlatba is átültetni, ehhez viszont nem elég a pénz, kiváló szakemberekre is szükség van. Az MI-t tekintve jelenleg Európában vannak a legjobb egyetemek és a legjobb PhD hallgatók, a humán tudás tehát adott, kérdés, hogy mire lesz mindez elég, miközben Kína óriási lendületet vett és jó szakemberek a világon mindenhol találhatók, lásd például a Google MI központjainak hálózatát, ami átszövi az egész világot.

Végül Jeff Dean szerint a mesterséges intelligenciával kapcsolatban nem az legnagyobb fenyegetés a következő 10-15 évben, hogy kiirtanak-e minket a gépek, hanem hogy miközben óriási hatása lesz az életünkre, mégsem leszünk képesek megfelelő módon felhasználni azt, nem leszünk képesek össztársadalmi szinten élni az MI nyújtotta lehetőségekkel, emiatt pedig inkább a negatív hatásai erősödnek fel.

A mesterséges intelligencia etikai és üzleti kérdése

iThe Aspen Institute Central Europe, PUBLIC DEBATE: Beyond Human. Trust in Machines and AI és WORKSHOP: Building the Future: Addressing the Opportunities and Challenges of an AI-Enabled World, 2019. január 22-23, Prága, Csehország

Léteznek-e univerzális etikai elvek egy mesterséges intelligencia számára? Milyen szabályokat kövessenek az MI fejlesztők, az MI felhasználók és társadalmak, illetve maguk a gépek? Engedjük-e, hogy egy gép maga alkosson és továbbfejlesszen szabályokat a saját működéséhez? Végül, milyen gátjai vannak jelenleg az MI üzleti terjedésének? 2019 január 22-23 között rendezte meg Prágában az Aspen Intézet kelet-európai szervezete[18] a Microsoft támogatásával a mesterséges intelligencia (MI) workshopját, amin szintén volt szerencsém részt venni. A Building the Future: Addressing the Opportunities and Challenges of an AI-Enabled World című esemény nagyjából 40, elsősorban V4 országbeli fiatal szakértő részvételével zajlott. A kelet-európaiakat kiegészítették az Aspen Intézet más tagszervezeteinél dolgozó amerikai, angol és német kollégák. A workshop része volt egy éppen folyó globális vitasorozatnak: Mexikóban és Berlinben már volt egy-egy hasonló vita, ez a harmadik Prágában részben kelet-európai fókusszal folyt.

A workshop elsősorban két területre koncentrált: a mesterséges intelligenciával kapcsolatos etikai (szabályozási) kérdésekre és a várható üzleti terjedésre (a kapcsolódó társadalmi hatásokkal együtt). A két rövid vitaindító előadást Alžběta Krausová[19] jogász kutató (Institute of State and Law, Czech Academy of Sciences) és Aleksandra Przegalińska[20] MI kutató (Kozminiski University, Center for Collective Intelligence | MIT Sloan School of Management) tartotta. Ezeket egy-egy 60 perces csoportos vita követte, majd ezek összegzése zárta a workshopot. Az alábbiakban rövid szubjektív élménybeszámoló következik az eseményről.

Ha nagyon egyszerűen akarnánk meghatározni mivel foglalkozik az etika, akkor azt mondhatnánk, hogy annak vizsgálatával, mi a jó és mi a rossz (viselkedés vagy döntés) egy bizonyos helyzetben. Minden etika értékalapú és mivel minden érték kultúra vagy vallási gyökerű, könnyen belátható, hogy nehéz igazán univerzális értékeket, így általánosan mindenhol érvényes etikai elveket is meghatározni. Így lehet például, hogy míg az euroamerikai kultúrkörben rendszerint idegenkednek a társalgó vagy ápoló robotoktól (ún. social robots[21]), addig Japánban ezek óriási népszerűségnek örvendenek, ott ugyanis a sintoizmus miatt teljesen elfogadott feltételezés, hogy a tárgyaknak lehet lelke, másképpen is viselkednek velük, kapcsolódnak hozzájuk az emberek.

A mesterséges intelligencia szempontjából három különböző szintet lehet megkülönböztetni jelenleg etikai szempontból. Az első az etika fejlesztőknek és felhasználóknak (ethics for design), ide tartoznak a cégek etikai elvei (pl. a Google vagy a Microsoft[22] etikai alapelvei). A második szint, az etika a fejlesztésben (ethics in design), ami már sokkal komplexebb és olyan kérdésekkel foglalkozik, amikkel minden társadalom szembenéz az MI alkalmazásakor, mint például az algoritmusukban megjelenő szisztematikus torzítás (algorithmic bias[23]), az adatvédelem vagy például a korreláció keverése az oksági kapcsolatokkal (például, hogy csak azért, mert valaki olyan környékről származik, ahol magas a bűnözés még nem bűnöző). Végül a harmadik az etika az MI-ben (ethics by design), vagyis hogyan, milyen elvek mentén hozhasson döntéseket egy mesterséges intelligencia. Ide tartozik például az Asimov által alkotott elhíresült robotika három törvénye.[24] De ennek része az a klasszikus és sokszor felmerülő dilemma is, hogy kit üssön el egy önvezető autó egy képzeletbeli helyzetben, ahol elkerülhetetlen a baleset.[25]

Legalább ugyanilyen fontos kérdés az MI etika kapcsán, hogy vajon ezen a területen hagyjuk-e, hogy egy rendszer önmagát fejlessze (dinamikus módon alkalmazkodjon a környezetéhez és új szabályokat alkosson magának) vagy csak emberek által előzetesen elfogadott, tesztelt és emiatt lezártnak tekinthető (statikus) módon juthasson csak etikai elvekhez, amik meghatározzák a működését. A jelenlegi megközelítések alapján egyelőre jobban hiszünk a statikus rendszerek helyes működésében, viszont ezek jóval kevésbé képesek adaptálódni és könnyebben el is avulnak.

De nem csak az etika, hanem az üzleti terjedés és társadalmi kérdések kapcsán is felmerültek az Aspen Intézet MI workshopján izgalmas kérdések. Az egy adott területen jól működő, úgynevezett szűk MI[26] technológiai lehetőségei már ma is adottak, ezen a téren a gépi tanulás[27] jelenleg a leggyakoribb megközelítés.

Már világszerte elterjedtek az első alkalmazások, szolgáltatások, amik az MI-nek köszönhetően lettek igazán sikeresek (mint például a Netflix, amely ajánlórendszere nélkül nem tudna ilyen magas szintű felhasználói élményt biztosítani). Ugyanakkor az AI terjedése lehetne gyorsabb és sikeresebb is, csakhogy több akadályba is ütközik. Az egyik a már említett szisztematikus torzítás az adatbázisokban (például, amikor egy HR alkalmazás inkább a férfi jelölteket választja ki[28], mert a korábbi emberi adatokból kiindulva akaratlanul is megjelenik benne a nőkkel szembeni előítélet). Egy másik gátló tényező az oktatás: már ma sem elegendő önmagában az adat tudományban való jártasság, legalább még egy terület értő és mély ismerete szükséges ahhoz, hogy valaki sikeresen alkalmazzon MI megoldásokat. További akadályt jelenthet az idő tényező: az a jellemző, hogy kevés idő van egy-egy megoldás kifejlesztésére és üzleti implementálására, miközben iszonyatosan gyorsan fejlődik a terület és avulnak el a fejlesztések, ami viszont az üzleti megtérülést veszélyezteti.

Egyvalami azonban biztos, a mesterséges intelligencia a közeljövőben nem fog veszíteni a népszerűségéből. A modern kapitalizmus az elmúlt másfélszáz évben elsősorban a számokban hitt, a szignifikáns adatokban és az ezen alapuló döntésekben. Pontosan ez azonban az AI lelke is, nem véletlen, hogy annyiak számára jelenti a Szent Grált.

[1] Slovak workers most likely to be replaced by robots, says OECD study. 2018. április 4. http://www.intellinews.com/slovak-workers-most-likely-to-be-replaced-by-robots-says-oecd-study-139340/ Utoljára letöltve 2019. május 11. Az OECD tanulmányt lásd: Nedelkoska, L. – G. Quintini (2018) Automation, skills use and training, OECD Social, Employment and Migration Working Papers, No. 202, OECD Publishing, Paris, https://doi.org/10.1787/2e2f4eea-en Utoljára letöltve 2019. május 11.

[2] Ezúton szeretnék köszönetet mondani a Digital Hungary oldalnak, ahol a cikkben olvasható három beszámoló közül kettő már korábbi változatban online formában megjelenhetett.

[3] OECD (2018): Policy Brief on the Future of Work: Putting faces to the jobs at risk of automation. March 2018 http://www.oecd.org/els/emp/future-of-work/Automation-policy-brief-2018.pdf Utoljára letöltve 2019. május 7.

[4] Sucharól bővebben lásd: https://ec.europa.eu/info/persons/director-general-vladimir-sucha_hu

[5] Az Európai Unió Joint Research Centerről bővebben lásd: https://ec.europa.eu/jrc/en

[6] A High Level Expert Group on Artificial Intelligence-ről bővebben lásd: https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence

[7] A Blockchain Kompetencia Központról bővebben lásd: http://blockchaincc.com

[8] A PosztmodeM videós élménybeszámolóját lásd: https://posztmodem.blog.hu/2018/10/11/visegradi_negyek_es_mesterseges_intelligencia Utoljára letöltve 2019. május 11.

[9] A Making AI-ról részletes cikket közölt az index: Bolcsó Dániel (2018): Felkapcsolja a villanyt, lekapcsolja az emberkereskedőket, mi az? 2018. november 9:

https://index.hu/techtud/2018/11/09/google_mesterseges_intelligencia_amszerdam/ Utoljára letöltve 2019. május 11.

Jómagam pedig a helyszínről adtam két részes videós élménybeszámolót a PosztmodeM-nek:

https://posztmodem.blog.hu/2018/11/06/hol_tartanak_a_google_ai-fejlesztesei_jelentes_amszterdambol Utoljára letöltve 2019. május 11.

https://posztmodem.blog.hu/2018/11/08/google_ai_egy_suru_nap_amszterdamban Utoljára letöltve 2019. május 11.

[10] A központok munkájáról a Google AI oldalán lehet bővebben olvasni: https://ai.google/research/

[11] Az Impact Challenge-ről bővebben lásd: https://ai.google/social-good/impact-challenge Utoljára letöltve 2019. május 11.

[12] A Rainforest Connection oldala: https://rfcx.org Utoljára letöltve 2019. május 11.

[13] Tim Salimansról bővebben lásd: https://www.linkedin.com/in/tsalimans/?originalSubdomain=nl

[14] Jakob Uszkoreit személyes oldalát lásd: http://jakob.uszkoreit.net

[15] Jen Gennai-ról bővebben lásd: https://www.linkedin.com/in/jen-gennai-b333933/

[16] Az elveket és részletes magyarázatukat lásd: https://ai.google/principles/

[17] Jeff Dean-ről bővebben lásd: https://en.wikipedia.org/wiki/Jeff_Dean_(computer_scientist)

[18] Az Aspen Intézet kelet-európai egységéről bővebben lásd: https://www.aspeninstitutece.org/about-us/ Utoljára letöltve 2019. május 7

[19] Alžběta Krausová-ról bővebben lásd: https://www.linkedin.com/in/alzbetakrausova/

[20] Aleksandra Przegalińska-ról bővebben lásd: https://www.linkedin.com/in/aleksandra-przegalinska-5b17125/

[21] Arról, hogy mi a social robot, itt található bővebb leírás a Wikipedia oldalán: https://en.wikipedia.org/wiki/Social_robot Utoljára letöltve 2019. május 7

[22] A Microsoft MI elveiről bővebben lásd: https://www.microsoft.com/en-us/ai/our-approach-to-ai Utoljára letöltve 2019. május 7

[23] Arról, hogy mi az algorithmic bias, itt található bővebb leírás a Wikipedia oldalán: https://en.wikipedia.org/wiki/Algorithmic_bias Utoljára letöltve 2019. május 7

[24] Arról, hogy mi a robotika három törvénye, itt található bővebb leírás a Wikipedia oldalán: https://hu.wikipedia.org/wiki/A_robotika_három_törvénye Utoljára letöltve 2019. május 7

[25] az MIT Moral Machine oldala pont ezzel a dilemmával foglalkozik bővebben, ahol saját magunk is állást foglalhatunk azzal kapcsolatban, hogy egy önvezető autó hogyan döntsön egy olyan helyzetben, amikor két rossz megoldás közül kell választania: http://moralmachine.mit.edu Utoljára letöltve 2019. május 7

[26] A mesterséges intelligencia különböző típusairól (szűk és általános MI, illetve szuperintelligencia) bővebben lásd például: Jajal, Tannya D. (2018) https://medium.com/@tjajal/distinguishing-between-narrow-ai-general-ai-and-super-ai-a4bc44172e22 Utoljára letöltve 2019. május 7.

[27] Arról, hogy mi a gépi tanulás, itt található bővebb leírás a Wikipedia oldalán: https://en.wikipedia.org/wiki/Machine_learning Utoljára letöltve 2019. május 7

[28] Erről bővebben lásd például: Dastin, Jeffrey (2018): Amazon scraps secret AI recruiting tool that showed bias against women. Reuters, 2018. október 10.

https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G Utoljára letöltve 2019. május 7.

Kövesd az oldalunkat a Facebook-on és a Twitteren is!