Dnes ordinuje MUDr. Chatbot. Co si ověřit, než se objednáte?

Chatboti využívající generativní AI mění způsob, jakým se učíme, přemýšlíme a vnímáme svět kolem sebe. Zatímco v některých oblastech našich životů je jejich vliv poměrně neškodný, v těch dalších už to není tak jednoznačné. A citlivé informace o našem zdravotním stavu jsou rozhodně jednou z nich.

Specializované nástroje jako ChatGPT zdraví, Copilot Health či Health AI nabízejí snadnou interpretaci výsledků testů i odpovědi na otázky ohledně symptomů nebo léčby, ale oproti starému dobrému „googlení“ vyžadují mnohem víc citlivých informací, než kolik bychom dali vyhledávači.

A na rozdíl od doktorů se na ně bohužel nevztahuje lékařské tajemství.

Když se z aplikace stane ordinace

Na otázku, proč se s chatboty specializovanými na zdraví roztrhl pytel, odpovídá například zpráva o využívání chatbota Copilot pro rok 2025 od Microsoftu. Podle ní je pro uživatele Copilota zdraví téma č. 1 a radí se o něm hlavně na mobilních telefonech.

Vlastně to dává naprostý smysl. Chatboti jsou na rozdíl od odborníků k dispozici 24/7 a budí zdání, že mají odpověď úplně na všechno. Jejich sebevědomé vystupování navíc umí povzbudit nejednoho vyděšeného pacienta.

To ale bohužel neznamená, že ví, o čem mluví. Podle studie Oxfordské univerzity z roku 2026 představují velké jazykové modely zaměřené na lékařské rady riziko v podobě nepřesných a nekonsistentních informací. To znamená, že ani chatbot přímo určený ke konzultaci zdravotních problémů nemusí být schopný přesně stanovit správnou diagnózu ani její vážnost.

A podle studie uveřejněné na platformě arXiv provozované Cornellovou univerzitou si specializovaný model může někdy vést ještě hůř než ten obecný.

Když nejde o zdraví, jde o data

Halucinované odpovědi jsou ale jen jedním z nešvarů, kterými nás specializovaní chatboti můžou ohrozit. Další rizika souvisí se zabezpečením citlivých informací, které s veřejně dostupným chatbotem sdílíme. To může být narušené:

• využíváním našich dat k dalšímu tréninku daného modelu, což s sebou nese riziko, že se objeví jako součást odpovědi u jiného uživatele;
• únikem konverzací na internet;
• sdílením našich dat s třetími stranami, např. společnostmi najatými na kontrolu tréninkových materiálů, agregátory dat neboli firmami, které se zabývají sběrem dat a vytvářením databází, popř. inzerenty, kterým pomáhají lépe cílit reklamu.

Ačkoliv jsou data využívaná k trénování modelů často anonymizovaná, stále zachovávají původní kontext konverzace, který může leccos odhalit.

Někteří poskytovatelé chatbotů umožňují trénování vypnout, jiní zase slibují, že údaje spojené se zdravotním stavem uživatelů při trénování nevyužívají. Jinými slovy, zatím neexistuje žádný obecný standard ochrany dat, které chatbotům dáváme, a je tedy na nás, uživatelích, abychom si zjistili, jak poskytovatel s našimi daty nakládá.

„A koho asi zajímají moje žaludeční vředy?“

Pro většinu z nás je snadné pochopit, proč digitální zloději a podvodníci touží po našich platebních kartách nebo přihlašovacích údajích. Jak nás ale může poškodit, když jim do rukou padne informace o našich plochých nohách nebo bolavé osmičce?

Ukazuje se, že hned několika způsoby:

• Údaje o našem zdravotním stavu nemají omezenou platnost a nedají se snadno zablokovat. Informace o naší srdeční arytmii je cenná třeba pro sociální inženýry, a to po dlouhou dobu.
• Lékařské zprávy, laboratorní výsledky a další dokumenty obsahují osobní údaje jako datum narození, rodné číslo apod.
• Opravdu citlivé nebo choulostivé zdravotní problémy lze snadno využít k vydírání.

Poskytovatelé těchto nástrojů se sice musí řídit obecným nařízením o ochraně údajů (GDPR) a zákonem o zpracování osobních údajů, ale protože nejde o poskytovatele zdravotnických služeb, nevztahuje se na ně zákon o zdravotních službách nebo zmíněné lékařské tajemství. To znamená, že chrání informace o tom, komu data patří, ne co obsahují a jak je to citlivé.

Anti-phishing

Zabraňuje pokusům o získání citlivých informací, jako jsou uživatelská jména a hesla či údaje o kreditních kartách a účtech. Blokuje podvodné webové stránky.

VYZKOUŠET

Jak tedy zajistit, že chatbot využívající generativní AI zachová mlčenlivost?

Pokud se i navzdory popsaným rizikům rozhodnete svůj zdravotní stav konzultovat s chatbotem, je dobré dbát na několik základních bezpečnostních pravidel.

6 pravidel pro bezpečné užívání chatbotů využívajících generativní AI:

1. Používejte specializované chatboty místo obecných. Chatboti zaměření na konkrétní oblast by měli být trénovaní na relevantních odborných datech a ochrana soukromí by měla být přizpůsobená citlivosti vkládaných dat.
2. Vždycky si ověřujte, jak poskytovatel chatbota ukládá a zpracovává vaše osobní údaje. Pokud je to možné, vždy vypínejte trénování a historii chatů.
3. Nikdy do nástroje nenahrávejte lékařské zprávy, výsledky laboratorních testů a další citlivé dokumenty obsahující osobní údaje jako jména, adresy, data narození, rodná čísla apod. Zkrátka a dobře, sdílejte jen absolutní minimum potřebné k odpovědi na otázku, na kterou se chatbota ptáte.
4. Výstupy chatbota považujte za čistě orientační a vždy si nechte vygenerovat zdroje, u kterých můžete informaci ověřit. Poté se poraďte se svým lékařem nebo se obraťte na oficiální zdroje, jako je např. Ministerstvo zdravotnictví.
5. Nepoužívejte chatbota založeného na umělé inteligenci jako náhradu za návštěvu u lékaře. Nenechávejte chatbota rozhodovat o tom, zda jsou vaše obtíže akutní, vždy se raději obraťte na lékaře.
6. Předpokládejte, že cokoliv do chatbota napíšete, může zůstat uložené u poskytovatele nebo dokonce uniknout. Prompty proto sestavujte pečlivě a vybírejte si, které informace budete sdílet.

Závěr: chatbot nebo lékař?

Chatboti generativní umělé inteligence působí dojmem, že se vyznají v celé řadě oborů včetně těch lékařských, ale vlastní halucinace bohužel vyřešit neumí. Jejich používání může být užitečné pro přípravu na návštěvu ordinace nebo vysvětlení odborných termínů, ale pro řešení akutních obtíží, diagnózu či léčbu se vždy obracejte na skutečného lékaře.

Kromě zdraví si při používání chatbotů pohlídejte i svoje data. Údaje o zdravotním stavu nejsou číslo platební karty, kterou lze po krádeži snadno zablokovat. Jakmile je jednou „nalijete“ do chatbota, může se z nich stát trvalá součást vaší digitální stopy. A ta se čistí obtížně.

Mohlo by vás zajímat:
✨ Je ChatGPT bezpečný? Jak AI chatbota používat správně
✨ Seznamovací aplikace aneb láska za časů umělé inteligence
✨ Jak umělá inteligence ovlivňuje body image dětí?