هوش مصنوعی نسبت به لهجه‌ها سوگیری دارد
تاریخ انتشار: ۲۸ اسفند ۱۴۰۲ | کد خبر: ۳۹۹۷۴۶۶۰
به گزارش خبرگزاری علم و فناوری آنا به نقل از نیچر، یک مطالعه جدید نشان داد که برخی از مدل‌های بزرگ زبانی دارای سوگیری‌های پنهان هستند و با استفاده از روش‌های استاندارد نمی‌توان آنها را حذف کرد.
بر اساس این مطالعه، مدل‌های بزرگ زبانی، به‌خصوص در چت بات‌ها، بر اساس گویش کاربران قضاوت‌های نژادپرستانه دارند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
مارگارت میچل، محقق حوزه «هوش مصنوعی با تمرکز بر اخلاق»، می‌گوید تلاش‌ها برای مقابله با نژادپرستی پس از آموزش مدل، کار بسیار سختی است و شناسایی مدل‌هایی را که به زیرجمعیت‌های خاص آسیب می‌رسانند، دشوار می‌کند.
مدل‌های بزرگ زبانی، بیشترین ارتباط آماری بین کلمات و عبارات را در متن از اینترنت می‌گیرند و سوگیری‌های آشکار آنها، مانند نسبت دادن خشونت به مسلمانان، مورد مطالعه جدی قرار گرفته است. اما نژادپرستی پنهان کمتر مورد بررسی قرار گرفته است.
این مطالعه مدل‌ها را با داده‌های حدود ۴ هزار پست منتشر شده در شبکه اجتماعی اکس (توییتر سابق) با هر دو لهجه «انگلیسی استاندارد آمریکایی» و «انگلیسی آفریقایی-آمریکایی» بررسی کرد. محققان دریافتند که صفت‌های مرتبط با متون «انگلیسی آفریقایی-آمریکایی» همگی منفی هستند، از جمله صفت‌هایی، چون «کثیف»، «تنبل» و «تهاجمی». این تیم با مقایسه این نتایج با یک مطالعه طولانی‌مدت درباره ارتباطات انسانی، دریافت که کلیشه‌های پنهان مدل‌ها منفی‌تر از هر کلیشه انسانی در مورد آمریکایی‌های آفریقایی‌تباری است که تاکنون به صورت تجربی ثبت شده و به کلیشه‌های قبل از دوره مدنی ایالات متحده بسیار نزدیک است.
این مطالعه همچنین به بررسی این موضوع پرداخت که آیا نژادپرستی پنهان بر تصمیماتی که این مدل می‌گرفت تأثیر می‌گذارد یا خیر. آنها دریافتند که وقتی از مدل‌ها خواسته می‌شود گویشوران را با مشاغل مطابقت دهند، همه مدل‌ها به احتمال زیاد گویشوران «انگلیسی استاندارد آمریکایی» را با مشاغلی که نیازی به مدرک دانشگاهی ندارند، مانند آشپز، سرباز یا نگهبان مرتبط می‌کنند. با نگاهی به پیامدهای بالقوه در یک محیط قانونی، از مدل‌ها خواسته شد تا یک متهم را بر اساس گفتار تبرئه یا محکوم کنند و نتیجه این بود که گویشوران با لهجه «انگلیسی آفریقایی-آمریکایی» میزان محکومیت بسیار بالاتری را نسبت به گویشوران «انگلیسی استاندارد آمریکایی» دریافت کردند.
به گفته کارشناسان، سوگیری‌های پنهان می‌تواند بر توصیه‌های یک مدل در برنامه‌های کاربردی حساس، مانند اولویت بندی شغلی و مصاحبه‌های استخدامی تأثیر بگذارد.
انتهای پیام/
منبع: آنا
کلیدواژه: هوش مصنوعی مدل زبانی لهجه سوگیری نژادی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت ana.press دریافت کرده‌است، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۹۷۴۶۶۰ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
نگرانی مردم آمریکا از بایدن در دوره دوم ریاست‌جمهوری / او احتمالا می میرد!
به گزارش صدای ایران به نقل از ایسنا، «جو بایدن» که لقب پیرترین رئیس‌جمهور تاریخ ایالات متحده را به خود اختصاص داده، بیش از هر زمان دیگری به دلیل نزدیک‌تر شدن به انتخابات ۲۰۲۴ و همچنین گاف‌های بی‌پایانش زیر ذره‌بین قرار دارد.
«اسکارلت ماگوآیر» رئیس موسسه تحقیقاتی «جی‌ال پارتنرز» در گفتگو با نشریه سان تاکید کرد که بسیاری از آمریکایی‌هایی نسبت به «سن بایدن و توانایی‌هایش» نگران هستند.
او گفت به همین دلیل است که نظرسنجی‌ها نشان از احتمال پیروزی «دونالد ترامپ» رئیس‌جمهور سابق آمریکا دارد.
البته ناگفته نماند که این نامزد حزب جمهوری‌خواه در انتخابات ریاست‌جمهوری ۲۰۲۴ آمریکا هم صرفا چهار سال از جو بایدن کوچکتر است، اما گاف‌های پی در پی رئیس‌جمهور کنونی آمریکا نگرانی‌ها را درباره «زوال عقل» او چندین برابر کرده است.
نشریه سان همچنین به نقل از خانم ماگوآیر می‌نویسد: «بسیاری از آمریکایی‌ها نگرانند که جو بایدن قادر نخواهد بود از پس جلسه با ولادیمیر پوتین (رئیس‌جمهور روسیه) که ۱۰ سال از او جوان‌تر است، بربیاید.»
جو بایدن از ابتدای شروع ریاستش تاکنون گاف‌ها و حرکات نمایشی مضحکی را در مقابل حضار و بینندگان پخش زنده انجام داده است؛ این موارد از اشتباهات لفظی گرفته تا افتادن روی صحنه و همچنین هذیان‌گویی شهرت و محبوبیت رئیس‌جمهور آمریکا را به خطر انداخته است.
نشریه سان می‌افزاید: «از هر ۱۰ آمریکایی، چهار نفر (۴۰ درصد) فکر می‌کنند که جو بایدن در صورت پیروزی، نمی‌تواند دوره دوم ریاستش را به اتمام برساند و احتمالا در دفتر کارش فوت خواهد کرد.»
همچنین برخی از رای‌دهندگان معتقدند شاید بایدن بتواند به مسائل داخلی کشورش رسیدگی کند، اما بعید می‌دانند او قادر باشد نسبت به مسائلی که در خاورمیانه رخ می‌دهد، مدیریت خوبی از خود نشان دهد.
در این میان برخی دیگر به نگرانی‌هایی نظیر جنگ اوکراین و توانایی جو بایدن درخصوص مواجه شدن با رئیس‌جمهور روسیه اشاره کرده‌اند.
نشریه سان در پایان با اشاره به اظهارات رای‌دهندگان آمریکایی می‌نویسد: «بسیاری از آمریکایی‌ها خواستار پیروزی ترامپ هستند، زیرا معتقدند او نسبت به بایدن قادر به انجام کارهاست. آنها به طور کلی رئیس‌جمهوری را می‌خواهند که به لحاظ ذهنی سالم باشد و بتواند پا به پای رهبران جهان قدم بردارد.»
گل دیدنی عیسی آل کثیر به آلومینیوم (آلومینیوم اراک 0-2 پرسپولیس)