نقص پنهان در پزشکی هوش مصنوعی؛ بیماران اطلاعات مهم را از رباتها پنهان میکنند
پژوهشگران در یک مطالعه تازه هشدار دادهاند که بیاعتمادی کاربران به هوش مصنوعی میتواند به کاهش دقت سیستمهای پزشکی دیجیتال منجر شود؛ زیرا افراد هنگام تعامل با AI علائم خود را ناقصتر و کمجزئیاتتر بیان میکنند و همین موضوع احتمال خطا در تشخیصهای اولیه را افزایش میدهد.
به گزارش ساینس دیلی، در آیندهای نهچندان دور بسیاری از بیماران پیش از مراجعه به پزشک ممکن است ابتدا با یک سیستم هوش مصنوعی گفتوگو کنند. این سامانهها بر اساس پاسخهای کاربران میزان اورژانسی بودن وضعیت را تعیین کرده درباره نیاز به درمان فوری تصمیم میگیرند و حتی زمان مناسب برای مراجعه به پزشک را پیشنهاد میدهند. با وجود اینکه این سناریو هنوز در حال توسعه است، اما ابزارهای تریاژ خودکار مبتنی بر هوش مصنوعی همین حالا نیز در حال تبدیل شدن به نقطه ورود اولیه بیماران به سیستم سلامت هستند، اما پژوهش جدیدی که در مجله Nature Health منتشر شده نشان میدهد یک مشکل مهم در این مسیر وجود دارد: نحوه متفاوت ارتباط انسانها با ماشینها در مقایسه با پزشکان.
این تحقیق با هدایت ویلفرید کونده از دانشگاه وورتسبورگ و موریتس ریس پژوهشگر این دانشگاه انجام شده و محققانی از مراکز علمی معتبری مانند بیمارستان دانشگاهی شاریته برلین، دانشگاه کمبریج، بیمارستان هلیوس امیل فون بهرینگ و بیمارستان وینیتاس نویکلن نیز در آن مشارکت داشتهاند.
در این مطالعه ۵۰۰ شرکتکننده موظف شدند گزارشهایی از علائم فرضی مربوط به دو بیماری رایج سردردهای غیرمعمول و علائم شبیه آنفلوآنزا بنویسند. به آنها گفته شد که این گزارشها یا توسط یک پزشک انسانی یا یک چتبات هوش مصنوعی بررسی خواهد شد. سپس پژوهشگران کیفیت این گزارشها را از نظر قابلیت استفاده برای تشخیص شدت بیماری ارزیابی کردند.
نتایج نشان داد زمانی که افراد تصور میکردند مخاطب آنها یک هوش مصنوعی است توضیحاتشان درباره علائم کوتاهتر، کمجزئیاتتر و در نتیجه برای ارزیابی پزشکی کمفایدهتر بود. این الگو حتی در میان افرادی مشاهده شد که واقعا همان علائم را تجربه کرده بودند.
از نظر آماری نیز تفاوت قابل توجهی ثبت شد: میانگین طول گزارشهایی که برای پزشکان نوشته شده بود حدود ۲۵۵.۶ کاراکتر بود، در حالی که گزارشهای نوشتهشده برای چتباتها به طور میانگین ۲۲۸.۷ کاراکتر طول داشتند. اگرچه این اختلاف در ظاهر کوچک به نظر میرسد، اما پژوهشگران تأکید میکنند که همین میزان کاهش جزئیات میتواند در تصمیمگیریهای پزشکی پیامدهای جدی داشته باشد.
به گفته محققان عملکرد درست سیستمهای هوش مصنوعی پزشکی تنها به قدرت الگوریتمها وابسته نیست بلکه به کیفیت اطلاعاتی که کاربران ارائه میدهند نیز بستگی دارد. هرچه اطلاعات ناقصتر باشد احتمال خطا در ارزیابی شدت بیماری بیشتر خواهد شد.
پژوهشگران یکی از دلایل این رفتار را پدیدهای با عنوان نادیده گرفتن یکتایی (Uniqueness Neglect) میدانند. کونده در اینباره توضیح میدهد که بسیاری از افراد تصور میکنند هوش مصنوعی قادر به درک جزئیات منحصربهفرد شرایط شخصی آنها نیست و صرفاً الگوهای کلی را تشخیص میدهد؛ بنابراین اطلاعات کمتری ارائه میکنند.
همچنین نگرانیهای مربوط به حریم خصوصی و تردید نسبت به تشخیصهای مبتنی بر الگوریتم نیز میتواند باعث شود کاربران اطلاعات ناقص یا مبهم ارائه دهند. موریتس ریس در این زمینه میگوید اگر افراد به توانایی ماشین برای درک شرایط خاص خود اعتماد نداشته باشند ناخودآگاه اطلاعات مهمی را پنهان میکنند؛ در نتیجه کیفیت ارزیابی پزشکی کاهش مییابد.
محققان تأکید میکنند که حل این مشکل تنها با پیشرفت فناوری امکانپذیر نیست بلکه طراحی بهتر رابطهای کاربری نیز ضروری است. به اعتقاد آنها سیستمهای هوش مصنوعی باید کاربران را به ارائه توضیحات کاملتر تشویق کنند و حتی نمونههایی از گزارشهای دقیق و مناسب را به آنها نشان دهند. همچنین میتوان با طراحی پرسشهای تکمیلی هوشمند اطلاعات ناقص را از کاربر دریافت کرد.
در مجموع این پژوهش نشان میدهد که موفقیت ابزارهای پزشکی مبتنی بر هوش مصنوعی نهتنها به پیشرفت الگوریتمها بلکه به نحوه تعامل انسان با این سیستمها نیز وابسته است؛ عاملی که در صورت نادیده گرفتن آن میتواند دقت تشخیصها را بهطور جدی تحت تاثیر قرار دهد.
انتهای پیام/
