دستیارهای هوش مصنوعی نظرات شما را تغییر می‌دهند

بر اساس تحقیقات جدید انجام شده، دستیارهای نوشتاری مبتنی بر هوش مصنوعی که جملات را به صورت خودکار تکمیل می‌کنند یا پاسخ‌های هوشمند ارائه می‌دهند، ایده‌هایی را به ذهن کاربر می‌دهد.

اختصاصی شبکه علمی ثریا- بر اساس تحقیقات جدید انجام شده،دستیارهای نوشتاری مبتنی بر هوش مصنوعی که جملات را به صورت خودکار تکمیل می‌کنند یا پاسخ‌های هوشمند ارائه می‌دهند،ایده‌هایی را به ذهن کاربر می‌دهد.یک محقق در زمینه علوم اطلاعات نیز از بیش از ۱۵۰۰ شرکت‌کننده خواست تا پاراگرافی بنویسند.افرادی که از دستیار هوش مصنوعی استفاده می‌کردند دو برابر سریع‌تر از افرادی که خودشان می‌نوشتند،کل پاراگراف را کامل کردند.به گفته محققان،این مطالعه نشان می‌دهد که سوگیری‌های ایجاد شده در ابزارهای نوشتاری هوش مصنوعی می‌تواند پیامدهای نگران‌کننده‌ای برای فرهنگ و سیاست داشته باشد.یکی از محققان در این مورد می‌گوید:«ما برای پیاده سازی این مدل هوش مصنوعی در همه جنبه‌های زندگی عجله داریم،اما باید مفاهیم آن را بهتر درک کنیم.در حالی که دیگران به این موضوع پرداخته‌اند که چگونه شرکت‌های بزرگ مانند ChatGPT می‌توانند تبلیغات متقاعدکننده ایجاد کنند، این اولین مطالعه‌ای است که نشان می‌دهد فرآیند نوشتن با ابزار مجهز به هوش مصنوعی می‌تواند نظرات افراد را تحت تأثیر قرار دهد.»او‌ این مطالعه را در ماه آوریل در کنفرانس CHI ارائه کرد،جایی که این مقاله جایزه افتخاری دریافت کرد.برای درک نحوه تعامل مردم با دستیاران نوشتن هوش مصنوعی،این محقق یک مدل هوش مصنوعی را برای داشتن نظرات مثبت یا منفی در مورد رسانه های اجتماعی هدایت کرد. شرکت‌کنندگان پاراگراف‌های خود را بر روی پلتفرمی که او ساخته بود نوشتند.

این پلتفرم،داده‌هایی را از شرکت‌کنندگان در حین تایپ جمع‌آوری می‌کند،مانند این‌که شرکت کنندگان کدام یک از پیشنهادات هوش مصنوعی را می‌پذیرند و چقدر طول می‌کشد تا پاراگراف را بنویسند.افرادی که با کمک دستیار هوش مصنوعی،جملات بیشتری را نوشتند و استدلال کردند که رسانه‌های اجتماعی خوب هستند.محققان این موضوع را که افراد به سادگی پیشنهادهای هوش مصنوعی را برای تکمیل سریعتر کار می‌پذیرند،مورد بررسی قرار دادند.در نهایت این نظرسنجی نشان داد که اکثر شرکت کنندگان حتی متوجه مغرضانه بودن هوش مصنوعی نشدند و نفهمیدند که تحت تاثیر آن قرار گرفته‌اند.هنگام تکرار آزمایش با موضوعی متفاوت،محققان دوباره مشاهده کردند که شرکت‌کنندگان تحت تأثیر دستیاران هوش مصنوعی قرار گرفتند.اکنون محققان به دنبال این هستند که چگونه این تجربه این تغییر را ایجاد می‌کند و اثرات آن چقدر طول می‌کشد.

همانطور که رسانه‌های اجتماعی با گسترش اطلاعات نادرست چشم‌انداز سیاسی را تغییر داده‌اند،ابزارهای نوشتاری هوش مصنوعی مغرضانه بسته به ابزارهایی که کاربران انتخاب می‌کنند،می‌توانند تغییرات مشابهی در نظرات کاربران ایجاد کنند.به عنوان مثال، برخی از سازمان ها اعلام کرده اند که قصد دارند جایگزینی برای ChatGPT ایجاد کنند که برای بیان دیدگاه‌های محافظه‌کارانه‌تر طراحی شده است.به گفته محققان،این فناوری‌ها مستحق بحث عمومی بیشتری در مورد نحوه نظارت و تنظیم آنها هستند.یک محقق گفت:«هرچه این فناوری‌ها قدرتمندتر شده و استفاده از آن‌ها در بافت اجتماعی جوامع گنجانده شود،ممکن است دقت بیشتری در مورد نحوه اولویت دادن به ارزش‌ها،اولویت‌ها و نظرات درونی آنها لازم باشد.»