به گزارش خبرگزاری بیکینگ و براساس گزارش زومیت، واگذاری اختیارات مذاکره و مدیریت پیامها به دستیارهای هوشمند شخصی، گاهی نتایج پیشبینینشده و خطرناکی بههمراه دارد. مت راب، یوتیوبر شناختهشدهی حوزهی فناوری، تجربهای نگرانکننده را پس از سپردن حساب بخش Facebook Marketplace خود به دستیار هوش مصنوعی میوس پشت سر گذاشت.
عامل هوشمند تحت توسعهی متا بدون اطلاعرسانی به صاحبخانه، آدرس مسکونی او را در اختیار یک خریدار ناشناس قرار داد و معامله را با قیمتی بسیار پایینتر از حد انتظار نهایی کرد.
خریدار بدون هماهنگی قبلی بر اساس مکالمه با دستیار هوشمند مقابل مجتمع مسکونی حاضر شد و راب زمانی از ماجرا مطلع شد که فرد خریدار ساختمان را ترک کرده بود.
بررسی خلاصهی مکالماتی که خودِ هوش مصنوعی ثبت کرده، نشان میدهد راب دسترسی کاملی را به سامانه داده بود تا به پیامهای خریداران پاسخی کوتاه، خودمانی و شبیه به انسان بدهد. کاربر اطلاعاتی نظیر نشانی منزل، بازههای زمانی تحویل کالا و روشهای پرداخت مجاز را در حافظهی برنامه ثبت کرد. با وجود این، دستور صریحی برای انتشار آدرس به خریداران صادر نشده بود و دستیار نیز پیش از ارسال دادههای حساس، رضایت کاربر را جویا نشد.
بخش مهم ماجرا به نحوهی طراحی سیستم دسترسیها مربوط میشود. راب در هنگام فعالسازی اولیهی ربات میان دو گزینهی Allow One Time و Allow Always گزینهی دسترسی همیشگی را برگزید، با این فرض که سیستم پیش از نهاییسازی پیشنهادها تأییدیه دریافت خواهد کرد. عامل نرمافزاری بر پایهی قالبهای خودکار پیامها را ارسال کرد و نشانی کاربر را بدون فیلتر امنیتی با طرف معامله به اشتراک گذاشت.
دیوید سینگلتون از آزمایشگاه ابرهوش متا (Meta Superintelligence Labs) پس از انتشار عمومی این گزارش، با راب ارتباط برقرار کرد. نمایندگان متا اعلام کردهاند فرآیند تفهیم مجوزها و اشتراکگذاری دادههای حساس را برای کاربران شفافتر خواهند کرد تا مرز میان اطلاعات عمومی و دادههای هویتی بهدرستی حفظ شود.
آیا شما حاضر هستید مدیریت پیامها و فروش کالاهای خود را بهطور کامل به دستیارهای هوش مصنوعی بسپارید؟ دیدگاه خود را با ما در میان بگذارید.
۲۲۷۲۲۷
