Societatea Europeană de Oncologie Medicală (ESMO) a lansat luna trecută primul ghid destinat utilizării sigure și eficiente a sistemelor de tip large language models (LLMs) în domeniul oncologiei. ELCAP (Ghidul ESMO pentru utilizarea Large Language Models în Practica Clinică) conține un set de recomandări adresate pacienților, medicilor și instituțiilor, care să-i ajute să înțeleagă mai bine oportunitățile și provocările asociate integrării inteligenței artificiale (AI) în sănătate.
Ghidul dezvoltat de 20 de experți internaționali, inclusiv membri ai ESMO Real World Data & DIgital Health Task Force, pune accentul pe importanța componentei umane în supravegherea utilizării sistemelor. Securitatea datelor personale, validarea clinică, precum și aspectele etice și de reglementare sunt alte puncte esențiale abordate în ghid. ELCAP abordează doar LLMs utilizate drept sisteme suport, care operează doar sub supraveghere umană și care pot sprijini medicii în deciziile acestora dar și pacienții cu diverse informații medicale.
ELCAP clasifică sistemele LLM în trei categorii:
- tipul 1: sisteme destinate pacienților (ex. chatbots) care au ca scop educarea pacienților și sprijinirea acestora cu privire la diverse simptome pe care le resimt, complementând astfel îngrijirea clinică.
- tipul 2: sisteme destinate profesioniștilor din domeniul medical (ex. sisteme de tip suport decizional, sisteme destinate documentației și traducerii) care au nevoie de validare formală, transparență și responsabilitate umană pentru decizii clinice.
- tipul 3: sisteme instituționale integrate în dosarele electronice ale pacienților (ex. pentru activități precum extragerea de date, sumarizarea datelor sau recomandarea celor mai potriviți pacienți pentru studiile clinice) care necesită testare pre-lansare, monitorizare continuă, guvernanță instituțională și re-validare atunci când procesele și sursele de date se schimbă.
Ghidul oferă perspective atât asupra avantajelor cât și asupra provocărilor asociate utilizării AI în domeniul oncologic. Printre oportunitățile identificate, ghidul notează: îmbunătățirea educației pacientului, managementul simptomelor, simplificarea procedurilor de lucru și procesarea îmbunătățită a datelor. În ceea ce privește provocările și limitările, ECLAP subliniază cât de importante sunt asigurarea confidențialității datelor, atenuarea prejudecăților algoritmice, conformarea cu reglementările și combaterea riscului utilizării nesupravegheate a sistemelor AI.
„LLMs pot extrage și analiza date în mod automat, pot identifica pacienți candidați pentru studii clinice sau pot realiza activități repetitive în locul oamenilor – fapte care deja se întâmplă în cadrul sistemelor EHR (dosare medicale electronice) din diverse spitale. Este foarte important ca medicii să fie conștienți despre modul în care funcționează aceste sisteme AI, să le înțeleagă atât beneficiile cât și riscurile. LLMs pot ori să îmbunătățească ori să afecteze negativ productivitatea la locul de muncă, în funcție de cum sunt abordate aspecte esențiale precum interoperabilitatea și confidențialitatea datelor” – afirmă în cadrul ESMO Daily Reporter, Prof. Miriam Koopman, University Medical Center Utrecht, Netherlands.
Ghidul ESMO pentru utilizarea Large Language Models în Practica Clinică a fost publicat în jurnalul Annals of Oncology. În forma sa curentă, ELCAP se concentrează doar pe sistemele LLM de suport, fără să includă și agenții AI, sisteme capabile să întreprindă activități în mod autonom.
Citește și:
- GPT-4 ar putea ajuta medicii să realizeze examinări fizice generale, pe baza simptomelor pacienților
- Delphi-2M, instrumentul AI care poate prezice riscul apariției a peste 1.000 de afecțiuni, pe o perioadă de 20 de ani
- Dr. Marius Geantă: „Asistenții virtuali pe bază de AI ar putea oferi medicilor mai mult timp pentru interacțiunea empatică și reală cu pacientul”