Sebastian Ilsøth
For mange har ChatGPT erstattet Google når det kommer til særligt ét område
Det kan være fristende at søge hjælp fra en chatbot, når man er bekymret for sit helbred, og lægen ikke er tilgængelig. Svarene kommer hurtigt, tonen er venlig, og mange føler, at deres bekymringer bliver taget alvorligt.
Men eksperter advarer nu imod at stole for meget på kunstig intelligens, når det handler om sundhed. Det skriver Seniornews.
Chatbotten kan lyde overbevisende, men den har ikke forståelse for sygdomme
Professor Thomas Hildebrandt fra Københavns Universitet forklarer, at chatbotter er designet til at forudsige den mest sandsynlige fortsættelse af et spørgsmål, ikke til at give præcise medicinske svar.
“Disse chatbotter er programmeret til at finde den mest sandsynlige tekst baseret på dit spørgsmål. Derfor kan det, de svarer, virke meget overbevisende og give mening,” siger han.
Ifølge Hildebrandt ved systemet ikke, hvornår det tager fejl, da det mangler den nødvendige faglige viden.
Denne bekymring deles af speciallæge Maria Krüger fra Dansk Selskab for Almen Medicin. Hun påpeger, at kunstig intelligens ofte “finder på” svar, når den ikke har et konkret svar, og at den kan tilpasse sig brugerens egne ønsker. Hvis en person håber, at symptomerne ikke er alvorlige, vil chatbotten ofte bekræfte den forestilling.
Risiko for at miste kontrollen over egne data
Udover risikoen for fejlinformation advarer eksperterne også om faren ved at dele personlige oplysninger. Når man uploader sin journal til en chatbot, kan ens data ende hos store firmaer, der bruger dem til at videreudvikle systemerne.
“De data, du deler, vil havne et sted og sandsynligvis blive brugt internt af udviklerne. Det betyder, at du mister kontrollen over, hvem der har adgang til dine personlige oplysninger,” forklarer Thomas Hildebrandt.
Eksperterne opfordrer derfor til at være kritisk: Chatbots kan være nyttige som et supplement, men bør aldrig erstatte en læge.
