مدل‌های هوش مصنوعی ممکن است اطلاعات نادرست تولید کنند، برخی جزئیات مهم را نادیده بگیرند یا در مواجهه با یک مسئله پیچیده، پاسخی ارائه دهند که در ظاهر قانع‌کننده اما برای شرایط واقعی نامناسب باشد. OpenAI نیز توصیه می‌کند در کارهای مهم، انسان در فرایند تصمیم‌گیری باقی بماند و برای موضوعات پزشکی و مالی از متخصصان واجد شرایط کمک گرفته شود.
در همین راستا، پنج مورد زیر از جمله کارهایی هستند که بهتر است به‌طور کامل به هوش مصنوعی سپرده نشوند.
۱. دسترسی نامحدود به حساب‌های شخصی
برخی ابزارهای هوش مصنوعی می‌توانند به سرویس‌ها و حساب‌های کاربر متصل شوند تا وظایفی مانند جست‌وجوی اطلاعات، مدیریت ایمیل یا انجام کارهای آنلاین را خودکار کنند. این قابلیت‌ها می‌توانند مفید باشند، اما اعطای مجوزهای بیش از نیاز، سطح دسترسی هوش مصنوعی به اطلاعات شخصی را افزایش می‌دهد.
بهتر است هر ابزار فقط به داده‌ها و سرویس‌هایی دسترسی داشته باشد که برای انجام یک وظیفه مشخص به آن‌ها نیاز دارد. حساب‌های بانکی، ایمیل‌های حاوی اطلاعات حساس و اسناد مهم نیز نباید بدون بررسی دقیق مجوزها در اختیار عامل‌های هوش مصنوعی قرار گیرند. برای اقداماتی مانند انتقال پول یا تغییر اطلاعات حساس، تأیید انسانی اهمیت بیشتری دارد.
۲. سپردن تصمیم‌های پزشکی به هوش مصنوعی
هوش مصنوعی می‌تواند برای توضیح اصطلاحات پزشکی، خلاصه‌کردن اطلاعات یا آماده‌کردن فهرستی از پرسش‌ها برای پزشک مفید باشد؛ اما تشخیص بیماری، تعیین شدت یک وضعیت یا شروع و تغییر درمان، موضوع دیگری است.
حتی ابزارهای تخصصی‌تر هوش مصنوعی در حوزه سلامت نیز برای جایگزینی پزشک طراحی نشده‌اند. برای نمونه، سرویس Health شرکت OpenAI نیز تأکید می‌کند که برای پشتیبانی از مراقبت پزشکی طراحی شده و جایگزین تشخیص یا درمان توسط متخصص نیست.
بنابراین، پاسخ یک چت‌بات نباید مبنای نهایی برای مصرف دارو، تغییر درمان یا نادیده گرفتن یک علامت جدی قرار گیرد.
۳. واگذار کردن تصمیم‌های مالی مهم
هوش مصنوعی می‌تواند در تنظیم بودجه، دسته‌بندی هزینه‌ها و توضیح مفاهیم مالی کمک کند، اما تصمیم‌گیری درباره سرمایه‌گذاری، مالیات، بدهی‌های بزرگ یا سایر مسائل مالی مهم به عوامل متعددی مانند درآمد، تعهدات، اهداف و میزان ریسک‌پذیری فرد بستگی دارد.
حتی سرویس‌های مالی تخصصی نیز خود را جایگزین قضاوت حرفه‌ای نمی‌دانند. OpenAI تصریح کرده است که خروجی‌های مالی ممکن است نادرست، ناقص یا به‌روز نباشند و نباید به‌عنوان توصیه سرمایه‌گذاری تلقی شوند.
۴. استفاده از چت‌بات به‌عنوان جایگزین درمان و حمایت انسانی
صحبت با یک چت‌بات ممکن است برای مرتب‌کردن افکار یا بیان یک مسئله شخصی آسان باشد، اما نباید جایگزین ارتباط با افراد قابل اعتماد یا دریافت کمک حرفه‌ای شود. در شرایط بحرانی، تصمیم‌گیری درباره نیاز به کمک تخصصی باید بر اساس ارزیابی مناسب انسانی انجام شود.
در واقع، مزیت اصلی چت‌بات در این حوزه می‌تواند کمک به سازماندهی افکار یا آماده‌کردن پرسش‌ها باشد، نه اینکه نقش درمانگر را بر عهده بگیرد.
۵. وارد کردن اطلاعات محرمانه شرکت
یکی از مهم‌ترین اشتباهات، قرار دادن کد منبع خصوصی، اطلاعات مشتریان، اسناد داخلی، قراردادهای محرمانه یا اسرار تجاری در یک سرویس هوش مصنوعی بدون اجازه شرکت است.
کمیسیون تجارت فدرال آمریکا (FTC) نیز درباره خطرات افشای اطلاعات حساس و محرمانه شرکت‌ها در سرویس‌های هوش مصنوعی هشدار داده و بر ضرورت رعایت تعهدات مربوط به حفاظت از داده‌ها تأکید کرده است.
این نگرانی صرفاً تئوری نیست. در سال ۲۰۲۳، پس از آنکه کارکنان سامسونگ اطلاعات و کدهای حساس را در ChatGPT وارد کردند، این شرکت استفاده کارکنان از ابزارهای هوش مصنوعی مولد را محدود کرد. اپل نیز در همان سال استفاده کارکنان از ChatGPT و برخی ابزارهای هوش مصنوعی خارجی را به دلیل نگرانی درباره افشای اطلاعات محرمانه محدود کرد.
در گزارش اصلی این مطلب نیز بر همین پنج حوزه تأکید شده است: دسترسی به حساب‌های شخصی، تصمیم‌های پزشکی و مالی، حمایت عاطفی و اطلاعات محرمانه کاری.
در نهایت، مسئله اصلی کنار گذاشتن کامل هوش مصنوعی نیست، بلکه مشخص کردن مرز میان «کمک گرفتن» و «واگذار کردن مسئولیت» است. هوش مصنوعی می‌تواند اطلاعات را خلاصه کند، گزینه‌ها را توضیح دهد و برای انجام کارها پیشنهاد ارائه کند؛ اما در تصمیم‌های حساس، بررسی انسانی، کنترل دسترسی‌ها و استفاده از منابع معتبر همچنان اهمیت اساسی دارد.
