AI לרופאים: הסבר למטופל, סיכום ותרגום — ואיפה הקו האדום

בואו נטוס גבוה — אבל עם רגליים על הקרקע. אני יובל, ובכתבה הזו אני לוקח אתכם, רופאות ורופאים, לאחד השימושים הכי שקטים-אבל-עוצמתיים של ה-AI: לא לאבחן במקומכם, אלא לתרגם בין שתי שפות — השפה של הרפואה והשפה של בן אדם מבוהל שיושב מולכם. נצלול, וכל מושג שאזכיר — אסביר במקום.

קודם כל: על מה אנחנו בכלל מדברים?

כשאני אומר "AI" בכתבה הזו, אני מתכוון בעיקר ל-LLM — ראשי תיבות של Large Language Model, "מודל שפה גדול". זה סוג של תוכנה שאומנה על כמות עצומה של טקסט, ולמדה לחזות איזו מילה הכי הגיונית לבוא אחרי המילה הקודמת. ChatGPT, Claude ו-Gemini הם דוגמאות. בגלל זה הם מבריקים בניסוח, בתרגום ובסיכום — אבל בדיוק מאותה סיבה הם מסוכנים בעובדות: הם מנחשים את הטקסט הסביר ביותר, לא את האמת.

המשל שלי: דמיינו עובד מתמלל מבריק ששומע אתכם מדברים בכל שפה, מנסח יפהפה, אבל לפעמים — כשהוא לא בטוח — ממציא בביטחון מלא. למצב הזה יש שם מקצועי: הזיה (hallucination) — כשהמודל פולט מידע שנשמע נכון לחלוטין אבל פשוט לא קיים. תחזיקו את המילה הזו בראש לכל אורך הכתבה; היא הציר של הקו האדום.

למה זה רלוונטי דווקא לכם?

מחקרים על שחיקת רופאים מצביעים שוב ושוב על אותו אשם: תיעוד — כתיבת הרשומה הרפואית, אותו תיק כתוב שמתעד כל ביקור. שעות מול המקלדת במקום מול המטופל. ושכבה שנייה — פערי תקשורת: מטופל שיוצא מהחדר ולא באמת הבין מה יש לו, חולה דובר שפה אחרת, או הסבר רפואי שנכון לחלוטין אבל בלתי-מובן למי שלא למד שש שנים רפואה. כאן ה-AI זורח, כי שלוש המשימות שבכותרת — הסבר למטופל, סיכום, ותרגום — הן משימות שפה טהורות, לא משימות הכרעה רפואית. וזה בדיוק ההבדל שמפריד שימוש בטוח משימוש מסוכן.

שלושת השימושים הבטוחים

1. הסבר למטופל ("הנמכת רובד"). "הנמכת רובד" פירושה לקחת אותו תוכן בדיוק ולנסח אותו בשכבת שפה פשוטה יותר. אתם כותבים: "המטופל סובל מ-fibrillation פרוזדורים, מתחילים anticoagulation". זה נכון רפואית ואטום למטופל. אתם מבקשים מה-AI לנסח את אותו תוכן שאתם כתבתם בשפה של גובה כיתה ו'. למה זה בטוח? כי אתם נתתם את התוכן הרפואי; ה-AI רק החליף מילים. הוא לא המציא אבחנה — הוא תרגם רובד שפה.

2. סיכום (summarization). ביקור ארוך, אנמנזה (סיפור המחלה כפי שהמטופל מספר אותו) מפותלת, שלושה דפי הערות. אתם מדביקים את הטקסט שלכם ומבקשים תקציר ל-5 נקודות. זה בטוח כי המקור נמצא מול עיניכם — אתם יכולים לבדוק כל נקודה בסיכום מול המקור תוך 20 שניות. הכלל: כשהמקור בידיכם והפלט קצר מהמקור — הסיכון נמוך, כי האימות זול ומיידי.

3. תרגום (translation). מטופל דובר אמהרית, רוסית או ערבית. ה-AI מתרגם את ההסבר שלכם בזמן אמת. כאן צריך זהירות מיוחדת, כי תרגום רפואי אינו תרגום של תפריט מסעדה — טעות קטנה במספר או בשלילה משנה הוראה קלינית. את הכלל המדויק לתרגום בטוח אפרט מיד בחלק על הקו האדום.

לפני שנמשיך — בואו נראה איך נראה ההבדל בין בקשה חלשה לחזקה. זה לב העניין:

להלן טקסט שאני, הרופא, כתבתי. נסח אותו מחדש בעברית פשוטה לגובה כיתה ו', בטון מרגיע, בלי להוסיף שום מידע רפואי חדש שלא כתוב כאן. אם משהו לא ברור לך — אל תמלא פערים, סמן [לא ברור]. הטקסט: 'אובחן פרפור פרוזדורים. מתחילים נוגד-קרישה (אפיקסבן 5 מ"ג פעמיים ביום) להפחתת סיכון לשבץ. ביקורת בעוד שבועיים.'

איפה הקו האדום? (החלק שאסור לדלג עליו)

עכשיו לחלק שבגללו כתבתי את הכתבה. יש קו אדום אחד, חד וברור:

ה-AI הוא כלי ניסוח — לעולם לא מקור סמכות קליני. ברגע שאתם מבקשים ממנו להחליט במקום לנסח — חציתם את הקו.

איפה הקו עובר בפועל? שלושה כללים מעשיים:

א. אל תבקשו ממנו עובדות שאינכם יודעים. "מה המינון של תרופה X לילד במשקל Y?" — זו שאלת ידע, והמודל עלול להזות (להמציא בביטחון, כפי שהגדרנו למעלה) מינון שנשמע סביר ויכול להרוג. הסבר, סיכום ותרגום הם פעולות שבהן אתם מספקים את העובדות וה-AI רק מעצב אותן. ברגע שהוא צריך לייצר עובדה חדשה — עצרו.

ב. תרגום רפואי דורש אימות. מינונים, "פעמיים ביום", שלילה ("אין צורך בצום") — טעות תרגום קטנה כאן היא טעות קלינית. לכן בכל תרגום שכולל מספר, מינון, או הוראת בטיחות — ודאו דרך מתרגם אנושי, או על ידי בקשה לתרגום-חוזר (back-translation): מבקשים מהמודל לתרגם את התוצאה בחזרה לעברית, ובודקים שחזרתם בדיוק למקור. אם משהו השתנה בדרך — שם נמצאת הטעות.

ג. פרטיות — PHI. PHI הוא Protected Health Information, מידע בריאותי מזוהה: שם, ת"ז, תאריך לידה, מספר תיק. הדבקת PHI לכלי AI ציבורי כמו ChatGPT הרגיל היא דליפת מידע רפואי — הפרה של חיסיון רפואי וחוק הגנת הפרטיות. הפתרון: או לעבוד עם כלי ארגוני שחתם הסכם עיבוד נתונים (במונחי תקינה: BAA, ראשי תיבות של Business Associate Agreement — הסכם שבו ספק הכלי מתחייב לשמור על המידע הרפואי; או DPA, Data Processing Agreement — הגרסה האירופית של אותו עיקרון), או — הכי פשוט — לעקר את הטקסט מזיהוי לפני ההדבקה: "מטופל בן 50, סוכרת" במקום שם ות"ז.

עכשיו, בדיקת הבנה קצרה — כי החלק הזה הוא הקריטי:

הזרימה הבטוחה שאני ממליץ עליה

תהליך מנצח שאתם יכולים להתחיל מחר בבוקר: (1) אתם מייצרים את התוכן הקליני — האבחנה, ההמלצה, המינון; (2) אתם מעקרים מזהים אישיים; (3) ה-AI מנסח/מסכם/מתרגם את התוכן שלכם; (4) אתם קוראים את הפלט ומאשרים לפני שהוא מגיע למטופל. השלב הרביעי הוא לא בירוקרטיה — הוא הביטוח שלכם. החתימה הקלינית נשארת שלכם; ה-AI חוסך לכם זמן, לא אחריות.

שורה תחתונה

ה-AI לא בא להחליף את שיקול הדעת שלכם — הוא בא להחזיר לכם את הדבר שנגנב מכם: זמן מול המטופל. השתמשו בו כמתורגמן, כמסכם, כמנסח — שלושת אלה בטוחים כי בהם אתם מחזיקים את העובדות. ברגע שהוא מתבקש להכריע, להמציא מינון, או לבלוע מידע מזוהה — שם הקו האדום, ושם אתם עוצרים. ככה טסים גבוה בלי להתרסק. בהצלחה — ותכתבו לי איך הלך.