Onderzoek: Google’s AI-antwoorden kunnen gebruikers in gevaar brengen

Volgens een recent onderzoek van The Guardian zou Google onvoldoende duidelijk maken dat medische antwoorden van zijn AI-samenvattingen geen vervanging zijn voor professioneel advies.  

 Wanneer mensen via Google naar gevoelige gezondheidsinformatie zoeken — bijvoorbeeld over symptomen, diagnoses of medicijnen — verschijnt er vaak een AI-samenvatting bovenaan de zoekresultaten. Die is bedoeld om gebruikers snel een overzicht te geven, maar volgens onderzoekers ontbreken bij deze eerste weergave duidelijke waarschuwingen dat het antwoord niet bedoeld is als medisch advies. Belangrijke disclaimers staan pas onderaan in kleine letters en worden alleen zichtbaar als gebruikers de uitgebreide informatie zelf openen.  

Experts wijzen erop dat AI-systemen nog steeds fouten kunnen maken en verkeerde aannames kunnen bevestigen omdat ze niet genoeg context over de individuele gebruiker hebben. Ze benadrukken dat dat tot verkeerde conclusies kan leiden, vooral als mensen de AI-antwoorden direct als betrouwbaar advies beschouwen.  

Google zegt dat de AI-samenvattingen verwijzen naar het zoeken van medische hulp wanneer dat passend is, maar er werd niet gereageerd op de kritiek dat de waarschuwingen niet prominent genoeg worden weergegeven.