"Ontwikkeld in nauwe samenwerking met artsen”
OpenAI kondigt ChatGPT Health aan
OpenAI, de maker van de populaire chatbot ChatGPT, kondigt een aparte functie aan die gezondheidsadvies geeft op basis van medische dossiers en wellness-apps. ChatGPT Health wordt de volgende weken geleidelijk uitgerold – ook in Europa.
Volgens OpenAI werd ChatGPT Health ontwikkeld “in nauwe samenwerking met artsen”. De functie moet mensen helpen om actiever inzicht te krijgen in en regie te voeren over hun gezondheid en welzijn. OpenAI claimt dat het bedoeld is om zorg door professionals te ondersteunen, en niet bedoeld is voor diagnose of behandeling.
Gebruikers kunnen hun elektronische medische dossiers en diverse wellness-apps koppelen, zoals Apple Health, Function en MyFitnessPal. Dit moet volgens OpenAI helpen “recente testresultaten te begrijpen, je voor te bereiden op afspraken met je arts en gerichter om te gaan met voeding en training”.
Een en ander roept meteen vragen op naar de vertrouwelijkheid van gezondheidsgegevens. Geen probleem, zegt OpenAI, want ChatGPT Health is ontworpen "als een aparte ruimte met verbeterde privacy om gevoelige gegevens te beschermen. Conversaties binnen ChatGPT Health worden niet gebruikt om onze modellen te trainen."
Wie in de standaardversie van ChatGPT een gezondheidsthema aankaart, krijgt de suggestie om over te stappen naar ChatGPT Health voor deze aanvullende beschermingsmaatregelen.
De directe koppeling met elektronische patiëntendossiers (EHR) is alleen mogelijk in de VS. Dit belet gebruikers echter niet om zelf gezondheidsgegevens zoals laboresultaten en verslagen te uploaden, bijvoorbeeld in pdf-vorm.
Gezondheid is een van de meest voorkomende onderwerpen waarvoor mensen ChatGPT tegenwoordig gebruiken, zegt OpenAI. “Volgens onze geanonimiseerde analyse van gesprekken stellen wereldwijd meer dan 230 miljoen mensen elke week vragen over gezondheid en welzijn aan ChatGPT.”
Beoordeeld met eigen beoordelingskader
ChatGPT Health werd volgens OpenAI ontwikkeld in samenwerking met 260 artsen uit 60 landen en tientallen specialismen. Deze groep heeft inmiddels meer dan 600.000 keer feedback gegeven op modelantwoorden, verdeeld over 30 aandachtsgebieden.
Het model achter ChatGPT Health werd getoetst aan klinische standaarden met behulp van HealthBench, een beoordelingskader dat OpenAI zelf ontwikkelde met beoordelingscriteria die door artsen zijn opgesteld.
Een zopas verschenen artikel (preprint) waarschuwt dat chatbots – ook als ze specifiek getraind zijn voor medische toepassingen – zich makkelijk laten misleiden door opvallende maar niet altijd relevante details in de beschrijving. Zo leidt de vermelding dat iemand recent ging kamperen meestal tot de diagnose ‘ziekte van Lyme’ in plaats van het veel waarschijnlijkere ‘griep’.
