יותר ויותר אנשים פונים לכלי בינה מלאכותית כדי להבין תסמינים, לפרש תוצאות בדיקות, לקבל הסברים על מושגים רפואיים או להתכונן לפגישה עם רופא. אולם בחברת אבטחת המידע והסייבר ESET מזהירים כי לצד הנוחות והזמינות, השימוש בצ'אטבוטים לצורך מידע רפואי עלול להיות כרוך בסיכונים משמעותיים.
לדברי מומחי החברה, שני הסיכונים המרכזיים הם קבלת מידע רפואי שגוי או מטעה, לצד חשיפת מידע רפואי אישי ורגיש. לטענתם, מערכות בינה מלאכותית עשויות לספק תשובות שנשמעות בטוחות ומשכנעות גם כאשר הן אינן מדויקות, חסרות הקשר רפואי חשוב או אינן מתאימות למצבו הספציפי של המשתמש. במקרים כאלה, קיים חשש שמשתמשים ידחו פנייה לרופא או יתעלמו מתסמינים המחייבים בדיקה וטיפול.
לדברי גיל שטרן, מנהל השיווק בקומסקיור, המפיצה הרשמית של ESET בישראל: "בינה מלאכותית יכולה לסייע בהבנת מושגים רפואיים, בהכנת שאלות לרופא או בקבלת מידע כללי, אבל היא לא תחליף לגורם רפואי מוסמך. הבעיה היא שהצ'אטבוטים עונים לעיתים בביטחון רב גם כאשר התשובה אינה מדויקת או אינה מתאימה למקרה הספציפי, ולפעמים רק מבלבלת את המשתמש במקום להציג תשובה ברורה או מציעה למשתמש לפנות לגורם רפואי אנושי".
שטרן מוסיף כי לצד הסיכון הרפואי קיים גם סיכון משמעותי לפרטיות: "משתמשים צריכים להבין שמידע רפואי הוא אחד מסוגי המידע הרגישים ביותר שיש להם. לפני שמזינים אותו לכלי AI, חשוב לבדוק מי שומר את המידע, האם הוא משמש לאימון המודל, האם הוא עובר לצדדים שלישיים ומהן הגדרות הפרטיות של השירות".
גיל שטרן (צילום: מושיק ברין)
בחברה מצביעים גם על מחקר של אוניברסיטת אוקספורד, שפורסם בכתב העת Nature Medicine, ולפיו משתמשים אינם תמיד יודעים איזה מידע נכון לשתף עם מודלי בינה מלאכותית. עוד נמצא כי המודלים עשויים לספק תשובות שונות מאוד גם כאשר השאלה משתנה במעט, ולעיתים משלבים עצות מועילות לצד המלצות בעייתיות – באופן המקשה על המשתמשים להבחין בין מידע אמין למידע שעלול להטעות.
ב-ESET מדגישים כי מידע רפואי אישי, כגון תסמינים, תוצאות בדיקות, מסמכים רפואיים, פרטי ביטוח או מידע מזהה, עלול להישמר במערכות שונות. בניגוד לכרטיס אשראי שניתן להחליף במקרה של דליפה, מידע רפואי מלווה את האדם לאורך כל חייו, ולכן חשיפתו עלולה לגרום לנזק ממושך.
רוצים להישאר מעודכנים?
כדי לצמצם את הסיכון, ממליצים בחברה שלא להעלות לצ'אטבוטים מסמכים רפואיים או מידע מזהה לפני שבודקים כיצד השירות מטפל במידע. בנוסף, מומלץ להימנע מהזנת שם מלא, מספר תעודת זהות, כתובת, מספר מטופל או פרטי ביטוח, להסתפק במידע המינימלי הנדרש, ולהעדיף ניסוח כללי של השאלות. עוד ממליצים לבדוק האם ניתן לכבות את השימוש בהיסטוריית השיחות לצורך אימון המודל ולהעדיף שירותים שמציגים מדיניות פרטיות ברורה.
בחברה מסכמים כי אין לראות בתשובות של צ'אטבוטים אבחנה רפואית, גם אם הן מנוסחות בביטחון או מסתמכות על מקורות מידע. ניתן להיעזר בבינה מלאכותית כדי להבין מונחים רפואיים, לקבל רקע כללי או להתכונן לפגישה עם רופא, אך החלטות רפואיות צריכות להתבסס על איש מקצוע מוסמך. במקרה של תסמינים חריגים או דחופים, יש לפנות לקבלת טיפול רפואי ולא להסתמך על מענה אוטומטי.
תגובות