ربات های هوش مصنوعی فیسبوک خاموش شدند

ربات های هوش مصنوعی فیسبوک بعد از اینکه با یکدیگر در زبان خودشان شروع به صحبت کردند، خاموش شدند!

فیسبوک، آزمایش خود را بعد از اینکه مشخص شد دو برنامه هوش مصنوعی توسط یک زبان عجیب و غریب با یکدیگر صحبت می کنند که تنها خودشان متوجه می شوند، کنار گذاشت.

این دو ربات گفتگو تصمیم گرفتند تغییرات مخصوص خود را در زبان انگلیسی ایجاد کنند تا استفاده از آن برایشان آسان تر شود. اما این صحبت ها برای انسان هایی که بر آن ها نظارت می کردند، مرموز باقی ماند.

گفتگوی عجیب آن ها وقتی مطرح شد که فیسبوک ربات های گفتگوی خود را به چالش معامله برای مبادله ی کلاه ها ، توپ ها و کتاب ها که به هر کدام از آن ها قیمت خاصی داده شده بود، کشاند. اما آن ها به سرعت به مشکلی برخوردند که به نظر می رسید ربات ها به زبانی که همه خودشان می فهمیدند اما برای انسان ها غیر قابل درک بود، با یک دیگر صحبت می کردند.

یادگیری ماشین ریات فیسبوک

به ربات ها دستور داده شده بود که چگونگی انجام مذاکره بین خودشان را یاد بگیرند و با پیشبرد آن، روش معامله خود را بهبود ببخشند. اما طبق گفته های محققان ، به آن ها دستور داده نشده بود که از زبان انگلیسی قابل فهم استفاده کنند، تا به آنها اجازه دهند که از “مختصر نویسی” خود استفاده کنند.

مذاکرات اصلی آن ها بسیار عجیب به نظر می رسد، و و به نظر بی فایده می رسد:

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

اما به نظر می رسد قواعدی در این گفتگو وجود دارد. شیوه ای که چت روم ها بر روی نام خود تاکید دارند، به نظر می رسد بخشی از مذاکرات می باشد نه یک اَشکال ساختاری در نحوه خواندن پیام های آن ها.

در واقع ، برخی از مذاکراتی که در این زبان عجیب و غریب انجام می شد، با موفقیت به پایان می رسیند، در حالی که آن ها کاملاً به یک زبان عجیب و غریب انجام می گرفتند.

ممکن است آن ها به نوعی مختصر نویسی دست یافته اند که به آن ها اجازه دهند تا موثر تر صحبت کنند.

محقق بازدیدکننده از بخش تحقیقات هوش مصنوعی فیسبوک ، درو بترا گفت: “ربات ها زبان قابل فهم را کنار می گذارند و کلمات رمزی را برای خودشان درست می کنند.” مثلاً اگر من پنج بار “چیزی” را بگویم ، شما تفسیر می کنید که من پنج نسخه از این مورد را می خواهم. این مساله چندان با نحوه ایجاد مختصر نویسی های انسانی متفاوت نیست.”

به گفته مارک لیبرمن زبان شناس معروف ، بعید است که این زبان، پیشرو اَشکال جدید گفتار بشری باشد.

او در وبلاگ خود نوشت: “در وهله اول این زبان کاملاً مبتنی بر متن است، در حالی که همه زبان ها به طور اساسی مورد صحبت (یا اشاره) قرار میگیرند و متن تنها یک پوشش مصنوعی برای آن ها است. و فراتر از آن، مشخص نیست که این فرایند منجر به ساخت یک سیستم با نوعی ساختار کلمه ، عبارت و ویژگی جملات زبان انسانی شود.”

ربات های گفتگو هوش مصنوعی فیسبوک

یک محقق با نام مایک لوییس به FastCo گفت: که این شرکت تصمیم گرفته است گفتگوی این ربات ها را تعطیل کند زیرا “علاقه ما داشتن ربات هایی بود که می توانستند با مردم صحبت کنند.” (محققان این برنامه ها را به این دلیل که از نتایج ترسیده و حشت زده بودند خاموش نکردند، همانطور که در جای دیگری هم عنوان شده بود، اما به این دلیل بود که آن ها به دنبال رفتار متفاوتی از ربات ها بودند.)

همچنین ربات های گفتگو یاد گرفتند با راه هایی که بسیار انسانی به نظر می رسند مذاکره کنند. به عنوان مثال ، مطابق مقاله ای که در FAIR منتشر شده است. آن ها وانمود می کنند که به یک مورد خاص بسیار علاقه مند هستند، تا بعداً تظاهر کنند از دست دادن آن ها بهایی سنگین برایشان داشته است.

آزمایش فیسبوک ، تنها باری نیست که هوش مصنوعی اشکال جدیدی از زبان را اختراع کرده است.

در اوایل سال جاری ، گوگل فاش کرد هوش مصنوعی که از ابزار ترجمه خود استفاده می کند ، زبان خود را ایجاد کرده است ، در واقع می تواند کلمات را به آن زبان ترجمه کرده و از آن زبان نیز به زبان های دیگر ترجمه کند. اما شرکت از این توسعه راضی بود و به آن اجازه داد ادامه دهد.

یک مطالعه دیگر در OpenAI نشان داد که هوش مصنوعی می تواند برای ایجاد یک زبان تشویق شود ، که خودش را کارآمدتر و در برقراری ارتباط بهتر نشان دهد.

بیشتر بخوانید :

منبع Independent

همچنین ببینید

گزارش دولت ایالات متحده : هوش مصنوعی یک تهدید بزرگ برای انسان است

گزارش دولت ایالات متحده : هوش مصنوعی یک تهدید بزرگ برای انسان است

از دولت ایالات متحده خواسته شده است که «سریع و قاطعانه» برای کاهش خطرات مهم …

2 نظر

  1. داره اتفاق میفته…

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *