Faren for fordummelse - en bivirkning ved kunstig intelligens

Klikket på musen er i stadig højere grad blevet et fagligt alternativ til at gnide på Aladdins lampe og fremtrylle det, som der førhen kun kunne drømmes om. Magien mærkes i brugen af kunstig intelligens (AI) og er blevet uundværlig, fordi den har slået døren op til både aflastning og opkvalificering.

Skribent

Per Betzonich-Wilken

dr.phil., tidl. forskningsleder, censor ved lægeuddannelsen i videnskabsteori og sundhedspsykologi

Som i eventyret virker mulighederne ubegrænsede, og en jævnlig strøm af udmeldinger i medicinsk regi viser, at entusiasmen lader til at være kommet for at blive.

Skeptikere har det med at fordærve en god stemning, men de kan ikke undværes. Her kan dagligdagens empiri gå hånd i hånd med klassisk filosofi: Med tilpas erfaring kan både forsker og alment praktiserende i lighed med gamle Protagoras bekræfte, at samme sag gerne er så kontrastfuld og gør så skeptisk, at man kan være tæt på at fortvivle. Men heldigvis er kontrasterne også kilde til lærdom. Begge dele gælder i sagen om AI.

Når magien forsvinder

Som kunstig partner fortjener AI taknemmelighed i kraft af evnen til aflaste både administrativt og fagligt. Uanset speciale har man grund til at prise sig lykkelig over teknologiens landvindinger. Men tendensen til utaknemmelighed viser sig også her. For det første er AI blevet så selvfølgelig i medicinsk regi, at den ikke vækker mere opmærksomhed end den ægtefælle, som man mener at kende til bevidstløshed; for det andet byder AI jævnligt på en nyhed, der til gengæld kræver al den opmærksomhed, man kan tilbyde - indtil den nyhed også ældes og bliver en selvfølge. Men næsten som en utilfreds partner kvitterer AI for utaknemmeligheden på sine måder.

Som bruger befinder man sig pludselig i undtagelsestilstand. Fundamentalt kan det begynde med et tastatursvigt, der forhindrer sammenligning af priser på præparater og deres effekter; på det avancerede plan kan man ende med det såkaldte black-box-problem; alvoren af det viser sig f.eks., når specialisten ikke kan gennemskue, hvordan IBM´s Watson kommer frem til et forslag om behandling af en bestemt kræftform. Det optimale ville være, hvis AI kun gjorde én mere uafhængig, men den har evnen til at bekræfte, hvor afhængig man er blevet af netop den. Både her og der kan hjælp tilkaldes, og i bedste fald virker magien igen, selv om man ikke nødvendigvis får at vide, hvorfor den forsvandt, eller hvordan den vendte tilbage; knuden blev ganske vist løst, men manglen på gennemsigtighed efterlader gerne brugeren i uvidenhed.

Dermed bliver en grundlæggende status ikke opløftende: Med AI følger der hverken garanti for tiltrængt aflastning eller vigtig indsigt, når der er brug for den. Det fører til næste niveau, hvor sagen ikke bliver mindre alvorlig.

Følt og faktuel dumhed

Et er, at AI fra at aflaste kan blive til dagens belastning; hertil kommer, at brugeren før eller siden må indse, at den heller ikke kun er opkvalificerende, men også kan være tæt på det modsatte.

For det første virker akkumuleringen af data om ætiologi, diagnose, terapi og prognose efterhånden så imponerende, at man på trods af faglig indsigt kan komme til at føle sig lidt dum. Allerede i 1950´erne påpegede Günther Anders (tysk filosof), at avanceret teknologi antikverer mennesket, får det til at føle sig forældet, overhalet og skamme sig over sit mindreværd, hvilket er en mere omstændig beskrivelse af følt dumhed. Udviklingen må siges at støtte påstanden.

Den følelse bør dog ikke tages for alvorligt, fordi teknologiens kolde intelligens f.eks. ikke kan yde i samme omfang som den varmere i menneskelig udgave: Patienter lægger gerne mere vægt på et nærvær præget af lytteevne, forståelse og støtte frem for indsigt i gennemsnitsberegninger fra randomiserede kontrollerede undersøgelser eller meta-reviews; her taler det store antal klager fra læger over mangel på tid til tilfredsstillende patientkontakt deres tydelige sprog.

For det andet kan AI desværre føre til mere end følelsen af dumhed. Mængden af data med tilhørende algoritmer er ganske vist resultat af international kompetence, men: Jo mere man benytter sig af AI i uddannelse, forskning og praksis, desto større er risikoen for, at værdien af præsenteret empiri overvurderes. Dermed kan afhængigheden nå højdepunktet. Tilliden til AI kan nemlig vokse proportionalt med brugen af den, imens det stadig gælder, at et nok så raffineret system kan reagere som en idiot på variabler, som det ikke er blevet programmeret til at tage højde for (AI-entusiasten kan med smil på læben indvende, at noget lignende gælder nogle menneskelige reaktioner; men der er næppe behov for at kopiere og øge idioti med teknologi.)

Den begrundede skepsis styrkes med tanken om forringelse i uddannelse og fortløbende dannelse. En væsentlig bekymring går ud på, at afhængigheden af IA ikke levner nok plads til udviklingen af det individuelle skøn, der siden antikken har været afgørende for god lægegerning. Det hænger sammen med en uheldig dobbelthed, der også gør sig gældende her: Med stadig opdatering via AI gælder det ikke kun, at man får nye input, men desværre også, at noget ældre og værdifuldt kan miste terræn eller forsvinde helt. Også af den grund kan den garvede kliniker både beklage tab af kvalitet i samtiden og frygte manglende kompetence hos kolleger i fremtiden.

Såfremt pessimisten får ret, vækker AI ikke kun følelsen af dumhed, men fremmer også faktuel dumhed i akademisk udgave.

Magien i de rette hænder

Før Fanden males færdig på væggen, kan der slås koldt vand i blodet: Som professionelle skeptikere er både forskeren og den alment praktiserende på det rene med, at AI byder på klare fordele som kontraster til de markerede ulemper. Derfor kan de også fremover minde os om, at den som kunstig partner fortjener vores taknemmelighed. I lighed med gamle Protagoras vil de dog fortsat insistere på retten til skepsis, men af en grund, som han ikke kendte noget til: AI har vedvarende vokseværk med tilsvarende og uvis indflydelse på alt, hvad der handler om sundhed, sygdom og helbredelse.

Det bør berolige, at ingen vågner op til et selvstyrende AI-monster fra den ene dag til den anden. Menneskelig kontrol forbliver vigtig. Som i eventyret om Aladdins lampe er værdien af magien afhængig af, hvordan den bruges. Heller ikke her kan der udstedes en recept på succes, men magien havner alligevel i de rette hænder. Det viser sig, når AI både kan bruges og frasorteres med den indsigt, intuition og fleksibilitet, som der kaldes på i det individuelle og uventede. Den mangfoldighed kan ganske vist ikke kortlægges én gang for alle, lagres og genbruges til gavn for enhver, men den modvirker til gengæld faren for fordummelse.