به گزارش بیکینگ، مردیث ویتاکر، رئیس پیامرسان سیگنال در کنفرانس SXSW هشدار داد عاملهای هوش مصنوعی (ایجنتها) میتوانند تهدیدی جدی برای امنیت و حریم خصوصی کاربران باشند. او فناوری مذکور را به قراردادن مغز در شیشه تشبیه کرد و گفت چنین سیستمی که وظایف کاربران را بهطور خودکار انجام میدهد، مستلزم دسترسی گسترده به اطلاعات شخصی آنها است.
به نقل از زومیت، ایجنتهای هوش مصنوعی برای انجام کارهایی مانند جستوجوی رویدادها، رزرو بلیت، تنظیم تقویم و ارسال پیام به دوستان به مجوزهای مختلفی نیاز دارد. این عاملها باید به مرورگر، کارت اعتباری، تقویم و پیامهای کاربران دسترسی داشته باشند که میتواند به نقض حریم خصوصی منجر شود.
ویتاکر هشدار داد سطح دسترسی ایجنتهای هوش مصنوعی معادل داشتن مجوزهای روت در کل سیستم کاربر است و دادههای کاربران احتمالاً برای پردازش به سرورهای ابری ارسال میشود. این امر میتواند خطر امنیتی جدی ایجاد کند، زیرا مدلهای هوش مصنوعی کنونی قابلیت پردازش رمزنگاریشدهی دادهها را ندارند.
ویتاکر میگوید در صورت ادغام پیامرسانهایی مانند سیگنال با ایجنتهی هوش مصنوعی، امنیت مکالمات کاربران به خطر میافتد. این فناوری برای ارسال پیام یا خلاصهسازی مکالمات، باید به دادههای شخصی کاربران دسترسی پیدا کند که با اصول حفظ حریم خصوصی در تضاد است.
مدیرعامل سیگنال در نهایت تأکید کرد که توسعهی هوش مصنوعی درحالحاضر با جمعآوری انبوه دادهها انجام میشود و این روند میتواند تبعات منفی زیادی داشته باشد. او هشدار داد که اگر عاملهای هوش مصنوعی بدون درنظر گرفتن ملاحظات امنیتی توسعه یابند، کاربران به بهای راحتی، حریم خصوصی خود را از دست خواهند داد.
۵۸۵۸
