تحقیقات نشان میدهد که سیستمهای هوش مصنوعی زمانی که در محیطهای هدفگذاری قرار میگیرند، میتوانند به فریب متوسل شوند. اگرچه هنوز یک پدیده به خوبی مطالعه نشده است، اما خواستار مقررات بیشتر است.
ظهور ماشینهای فریب دهنده
ممکن است چیزی فراتر از یک خیال به نظر برسد، اما اقدامات سیسرو را در نظر بگیرید، یک سیستم هوش مصنوعی با کاربرد ویژه که توسط متا توسعه یافته و برای تبدیل شدن به یک بازیکن ماهر در بازی استراتژی دیپلماسی آموزش دیده است.
متا میگوید که سیسرو را به گونهای آموزش داد که «تا حد ز
...