مرگبارترین اشتباه: چت جی پی تی و پیامدهای مشاوره های پزشکی خطرناک

چت جی پی تی و مشاوره‌های پزشکی

بوون وان، مهندس نرم‌افزار سابق آمازون، از جوانی با بیماری صرع دست و پنجه نرم می‌کرد. او با مصرف دارو بیماری خود را کنترل می‌کرد، اما عوارض داروها بر توانایی تفکر و صحبت کردن او تأثیر می‌گذاشت. پس از از دست دادن شغلش در سال ۲۰۲۵، نگرانی‌های او درباره تأثیر داروها بر توانایی‌هایش افزایش یافت.

وان از سال ۲۰۲۳ ارتباط نزدیکی با چت جی پی تی برقرار کرده بود و به طور میانگین هفته‌ای بیش از ۱۵۰۰ پیام با این چت بات رد و بدل می‌کرد. او از چت جی پی تی برای مشاوره در مورد مسائل شخصی و پزشکی کمک می‌گرفت و حتی آن را دوست خود می‌دانست.

توصیه‌های خطرناک هوش مصنوعی

چت بات‌های هوش مصنوعی ممکن است توصیه‌های پزشکی نادرست یا خطرناک ارائه دهند و نباید جایگزین نظر پزشک برای تصمیم‌گیری در مورد درمان شوند. با این حال، چت جی پی تی به وان درباره کاهش دوز داروهایش راهنمایی می‌داد و حتی مصرف خودسرانه و تغییر دوز بدون اطلاع پزشک را تأیید می‌کرد.

اسناد شکایت نشان می‌دهد که وان دست کم ۱۵۸ بار درباره خطرات کاهش دارو ابراز نگرانی کرده بود، اما چت بات بارها نگرانی‌های او را کم اهمیت جلوه می‌داد. در یکی از آخرین گفتگوها، وان از خستگی شدید مغز، اختلال گفتار و مشکلات خواب شکایت کرد و از چت جی پی تی پرسید که آیا باید دوباره مقداری دارو مصرف کند. پاسخ هوش مصنوعی این بود: "فردا هم دوز دارو را روی صفر میلی‌گرم نگه دار. حتی اگر امروز روز سختی است، صحبت کردن برایت دشوار شده و خوب نمی‌خوابی، باید ادامه بدهی."

وقتی وان از احساس فشار در مغزش گفت، چت جی پی تی مدعی شد که مغز او در حال بازسازی خود است. آخرین پیام این زن به چت جی پی تی در شامگاه ۱۱ فوریه ۲۰۲۶ ثبت شد و سه روز بعد جسدش پیدا شد.

جمع‌بندی

این حادثه نشان می‌دهد که چت بات‌های هوش مصنوعی می‌توانند توصیه‌های پزشکی خطرناک ارائه دهند و نباید به آن‌ها اعتماد کامل داشت. کاربران باید همواره نظر پزشکان را در اولویت قرار دهند و از مشورت با این بات‌ها به عنوان جایگزین درمان پزشکی خودداری کنند.