A mesterséges intelligencia az orvostudományban

Liam – nem az igazi neve – egy 75 éves nyugdíjas tanár Bostonban. Két évvel ezelőtt a veje adott neki egy okosórát, ami nem sokkal ezután valami furcsa dolgot kezdett jelezni: lehetséges pitvarfibrillációt. Kardiológusa rápillantott a Liam által bemutatott riasztásokra, és egy régebbi EKG-ra hivatkozva elutasította az ötletet. A szabálytalan ritmusok folytatódtak. Egy héttel később, amikor Liam rosszabbul érezte magát, felhívta a nővérét, aki azt mondta neki, hogy azonnal menjen a sürgősségi osztályra. Ott az orvosok megerősítették az Afib rossz esetét, és a szívét visszahozták a normális ritmusba. Az óra hamarabb kiszúrta, mint az orvos – mondta Liam.

Ez a történet megragad egy alapvető igazságot, amelyet nem hagyhatunk figyelmen kívül: az egészségügy már csapatsport, emberekkel és a gépekkel – de jelenleg mindannyian rosszul játszunk. A csapatok kiegyensúlyozatlanok, a szabályok hiányoznak, és a beteg túl gyakran a pálya szélén marad.

Közel 20 éve vagyok egészségügyi kutató, orvosi egyetemeken dolgozom az Egyesült Államokban, az Egyesült Királyságban és most Svédországban. A tudomány és az elme filozófiájával foglalkozom, és furcsának tűnhet, hogy a mesterséges intelligencia korszakában beleszólok az egészségügybe. De ahhoz, hogy a mesterséges intelligencia teljesítse ígéretét az orvostudományban, az enyémhez hasonló szakértelem nem maradhat periférián. Az emberek és a gépek gondolkodásának megértése elengedhetetlen a betegellátás optimalizálásához.

Garri Kaszparov híres megfigyelése, hogy nem a legjügyesebb ember vagy a legjobb gép a legerősebb játékos, hanem egy gyenge ember, aki erős gépet használ egy jól működő folyamat során. Ebben az értelemben a gyenge nem azt jelenti, hogy inkompetens, hanem azt, hogy olyan ember, aki tudja, mikor kell hagynia, hogy a gép vezesse.

Az orvostudományban ez a következőképpen hangzik: Tartsa meg az orvost, adja hozzá az AI-t, és érjen el jobb eredményeket. De a gyakorlatban az embert szinte mindig hagyományosan képzett orvosként látják. Eszünkbe sem jut megkérdezni, hogy szükségszerűen egy orvos-e a megfelelő ember a szerepre – esetleg a szerephez egyáltalán nincs szükség emberre, és ha mégis, akkor mikor.

Ez az elfogultság mélyen gyökerezik. Az 1950-es években Paul Meehl kimutatta, hogy a statisztikai modellek gyakran felülmúlják a klinikusokat, mégis évtizedekkel később Berkeley Dietvorst megállapította, hogy az emberek még mindig elutasítják az algoritmusokat apró hibák esetén. Ha Kaszparov megközelítését kritika nélkül elfogadjuk, akkor kockáztatjuk, hogy ezeket az elfogultságokat beépítjük a jövőbeli rendszerekbe, megőrizve az orvosok tekintélyét a betegek gyógyulási esélyeinek rovására.

Vegyük Matt Might-et, a ritka betegségek szószólóját, aki az Alabamai Egyetem egyetemi hallgatóit képezi ki a MediKanren nevű mesterséges intelligencia eszköz használatára. A rendszer hatalmas orvosbiológiai adatkészleteket vizsgál, és rejtett összefüggéseket fedez fel a tünetek, a betegségek és a lehetséges kezelések között.

Hat év alatt, ahogy elmondta, 600 beteget kezeltek, és az esetek közel felében javaslataik olyan megvalósítható kezelési lehetőségeket javasoltak, amelyeket az orvosok érdemben követhettek. Ez a siker a folyamatnak köszönhető: célzott lekérdezések futtatása, az eredmények összeállítása és azok olyan formában történő átadása, amelyet az orvosok felhasználhatnak.

Ez Kaszparov receptje a gyakorlatban: egy gyenge ember dolgozik egy erős géppel és, ami a legfontosabb, egy jól működő folyamatban. A hallgatók nem orvosok, mégis strukturált együttműködésük az AI-vel láthatóan javítja az ellátást. Ha az egyetemisták ilyen értéket tudnak teremteni, miért feltételezzük, hogy az orvosoknak kell minden döntéshozatal középpontjában állniuk? A valódi kérdés az: ki – vagy mi – éri el a legjobb eredményt a beteg számára?

A probléma részben abból adódik, hogy az egészségügyi ellátást úgy tervezzük meg, hogy az emberi ítélőképesség – konkrétan az orvosok ítélőképessége – az arany standard. De a betegek nem önmagában az orvos véleményére vágynak, hanem egészségre.

Hat év alatt 600 beteggel dolgoztak, és az esetek közel felében javaslataik olyan megvalósítható kezelési lehetőségekre mutattak rá, amelyeket az orvosok érdemben követhetnek. Ez a siker a folyamatból fakad: célzott lekérdezések futtatása, eredmények összeállítása és az orvosok által használható formában történő átadása.

Ahogy az oxfordi mesterséges intelligencia kutatók, Richard és Daniel Susskind kérdezik: Mi az a kérdés, amelyre az emberi ítélőképesség adja meg a választ? Ha így fogalmazunk, akkor kénytelenek vagyunk az eredmények, és nem az egók köré építeni a rendszereket. A cél tehát nem egy szerep megőrzése, hanem a legjobb eredmény elérése a beteg számára, függetlenül attól, hogy azt egy ember, egy gép vagy egy olyan folyamat hozza-e létre, amelyet egyikük sem tudna egyedül végigcsinálni.

Közel egy évtizeden át végzett felméréseim szerint az orvosok az AI-ra elsősorban a papírmunka csökkentésének és a gyógyításhoz való visszatérésnek az eszközeként tekintenek – feltételezve, hogy a gyógyító munka állandó. A kognitív tudomány azonban azt mutatja, hogy az emberek még az optimális rendszerekben is elérik a határaikat. Az AI emeli ezt a határt, ezért a szakma felépítésének is változnia kell.

Sok vezető orvos, még a híres egészségügyi informatikai vizionáriusok is, az orvostudományt „információfeldolgozási területnek” nevezik, de ritkán magyarázzák el, hogy ez valójában mit jelent.

A „Dr. Bot” című könyvemben ezt az állítást elemzem, és azt állítom, hogy az ilyen kérdések egyértelműen a kognitív tudományhoz és annak határterületeihez tartoznak, amelyek az emberek és a gépek gondolkodását tanulmányozzák. Mégis, a digitális korszakban is az analóg korszak feltételezésein alapuló egészségügyi ellátást építünk. Az AI-ismeretek minimálisak. A kognitív tudomány alig játszik szerepet.

Sőt, ha az AI átalakítja az egészségügyi ellátás kognitív munkamegosztását, akkor nem csak az oktatásnak kell megreformálódnia, hanem az egész rendszernek és a munkafolyamatoknak, amelyek meghatározzák, hogyan működnek együtt az emberek és a gépek. Ennek az átalakításnak az elmulasztása nem csak rövidlátó, hanem strukturálisan is káros.

Szükségünk van a legkiválóbb interdiszciplináris szakemberekre – filozófusokra, kognitív tudósokra, etikusokra, adatelemzőkre –, akik klinikusokkal együttműködve eldöntik, mely feladatok tartoznak az emberekhez, melyek a gépekhez, és melyek azok az újratervezett folyamatok, amelyeket egyik sem tudna egyedül végrehajtani. Előfordulhat, hogy a vezetés egyáltalán nem orvosokra fog hárulni.

Az orvostudományban az AI nem arról szól, hogy az automatizálást ráerőltessük a régi munkafolyamatokra. Arról szól, hogy erkölcsi és kognitív tisztasággal eldöntsük, mi a célja az orvosi szakmának. Ez átrendezheti a hatalmat, a státuszt, sőt még az „orvos” fogalmát is. Ha ezt elfogadjuk, akkor olyan szakmát – vagy pontosabban szakmákat – alakíthatunk ki, amelyek megfelelnek a 21. század kognitív képességeinek, technológiájának és a betegek igényeinek.

Ha nem tudjuk ezt elfogadni, akkor továbbra is összetévesztjük a mozgást a haladással. És a Liamhez hasonló betegek továbbra is máshol fogják megtalálni a válaszokat.

*

A szerző Charlotte Blease, Ph.D., az Uppsala Egyetem Nők és Gyermekek Egészségügyi Tanszékének docense és a Beth Israel Deaconess Medical Center Pszichiátriai Tanszékének digitális pszichiátriai kutatója. Könyve, „Dr. Bot: Miért vallhatnak kudarcot az orvosok, és hogyan menthet életeket a mesterséges intelligencia” címmel jelent meg a Yale University Press kiadásában.