هوش مصنوعی نسبت به لهجه‌ها سوگیری دارد
تاریخ انتشار: ۲۸ اسفند ۱۴۰۲ | کد خبر: ۳۹۹۷۴۶۶۰
به گزارش خبرگزاری علم و فناوری آنا به نقل از نیچر، یک مطالعه جدید نشان داد که برخی از مدل‌های بزرگ زبانی دارای سوگیری‌های پنهان هستند و با استفاده از روش‌های استاندارد نمی‌توان آنها را حذف کرد.
بر اساس این مطالعه، مدل‌های بزرگ زبانی، به‌خصوص در چت بات‌ها، بر اساس گویش کاربران قضاوت‌های نژادپرستانه دارند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
مارگارت میچل، محقق حوزه «هوش مصنوعی با تمرکز بر اخلاق»، می‌گوید تلاش‌ها برای مقابله با نژادپرستی پس از آموزش مدل، کار بسیار سختی است و شناسایی مدل‌هایی را که به زیرجمعیت‌های خاص آسیب می‌رسانند، دشوار می‌کند.
مدل‌های بزرگ زبانی، بیشترین ارتباط آماری بین کلمات و عبارات را در متن از اینترنت می‌گیرند و سوگیری‌های آشکار آنها، مانند نسبت دادن خشونت به مسلمانان، مورد مطالعه جدی قرار گرفته است. اما نژادپرستی پنهان کمتر مورد بررسی قرار گرفته است.
این مطالعه مدل‌ها را با داده‌های حدود ۴ هزار پست منتشر شده در شبکه اجتماعی اکس (توییتر سابق) با هر دو لهجه «انگلیسی استاندارد آمریکایی» و «انگلیسی آفریقایی-آمریکایی» بررسی کرد. محققان دریافتند که صفت‌های مرتبط با متون «انگلیسی آفریقایی-آمریکایی» همگی منفی هستند، از جمله صفت‌هایی، چون «کثیف»، «تنبل» و «تهاجمی». این تیم با مقایسه این نتایج با یک مطالعه طولانی‌مدت درباره ارتباطات انسانی، دریافت که کلیشه‌های پنهان مدل‌ها منفی‌تر از هر کلیشه انسانی در مورد آمریکایی‌های آفریقایی‌تباری است که تاکنون به صورت تجربی ثبت شده و به کلیشه‌های قبل از دوره مدنی ایالات متحده بسیار نزدیک است.
این مطالعه همچنین به بررسی این موضوع پرداخت که آیا نژادپرستی پنهان بر تصمیماتی که این مدل می‌گرفت تأثیر می‌گذارد یا خیر. آنها دریافتند که وقتی از مدل‌ها خواسته می‌شود گویشوران را با مشاغل مطابقت دهند، همه مدل‌ها به احتمال زیاد گویشوران «انگلیسی استاندارد آمریکایی» را با مشاغلی که نیازی به مدرک دانشگاهی ندارند، مانند آشپز، سرباز یا نگهبان مرتبط می‌کنند. با نگاهی به پیامد‌های بالقوه در یک محیط قانونی، از مدل‌ها خواسته شد تا یک متهم را بر اساس گفتار تبرئه یا محکوم کنند و نتیجه این بود که گویشوران با لهجه «انگلیسی آفریقایی-آمریکایی» میزان محکومیت بسیار بالاتری را نسبت به گویشوران «انگلیسی استاندارد آمریکایی» دریافت کردند.
به گفته کارشناسان، سوگیری‌های پنهان می‌تواند بر توصیه‌های یک مدل در برنامه‌های کاربردی حساس، مانند اولویت بندی شغلی و مصاحبه‌های استخدامی تأثیر بگذارد.
انتهای پیام/
منبع: آنا
کلیدواژه: هوش مصنوعی مدل زبانی لهجه سوگیری نژادی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت ana.press دریافت کرده‌است، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۹۷۴۶۶۰ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
رشد مجدد دندان با دارویی جدید
دانشمندان ژاپنی اعلام کردند که انجام آزمایش‌های بالینی اولین «داروی رشد مجدد دندان» در دنیا از سپتامبر (شهریور) امسال در بیمارستان دانشگاه کیوتو این کشور آغاز می‌شود.
براساس گزارش وبسایت ماینیچی ژاپن، این دارو پس از دریافت تایید ایمنی، برای بیمارانی که به طور مادرزادی فاقد مجموعه کامل دندان هستند تجویز خواهد شد تا اثربخشی آن بررسی شود. محققان ابراز امیدواری کرده‌اند که فروش این دارو را در سال ۲۰۳۰ آغاز کنند.
این دارو در مطالعات حیوانی تا به امروز بدون خطر بوده و هیچ عارضه جانبی گسترده‌ای پس از مصرف آن دیده نشده است. محققان در مرحله مطالعه حیوانی مشاهده کردند که مصرف دارو در موش‌های مبتلا به کمبود مادرزادی دندان، باعث رشد دندان‌های موش‌ها شده است.
اگرچه تقریبا همه انسان‌ها به طور معمول ۳۲ دندان دارند، اعتقاد بر این است که حدود یک درصد از جمعیت جهان از یک بیماری مادرزادی به نام «آژنزی دندانی» رنج می‌برند که باعث عدم رشد یک یا چند دندان می‌شود.این بیماری علاوه بر غذا خوردن توانایی تکلم و بلع بیمار را نیز دچار مشکل می‌کند.
بنابر اعلام بیمارستان کیتانو در بخش کیتا اوزاکای ژاپن، مرحله اول آزمایشات بالینی از سپتامبر امسال تا اوت ۲۰۲۵ ادامه خواهد داشت. این دارو در ابتدا برای تایید اثربخشی به صورت وریدی به ۳۰ داوطلب سالم بین ۳۰ تا ۶۴ سال تزریق می‌شود. این افراد باید حداقل یک دندان پشتی نداشته باشند تا در صورت اثرگذاری دارو و شروع رشد دندان، مشکلی برایشان پیش نیاید.
در مرحله بعد، این دارو برای بیماران مبتلا به کمبود مادرزادی دندان تجویز می‌شود. محققان قصد دارند در این مرحله جمعیت مورد مطالعه را به افراد بین ۲ تا ۷ سال که حداقل ۴ دندان از بدو تولد از دست داده‌اند محدود کنند.
داروی جدید می‌تواند در آینده افراد را از پروتز و یا ایمپلنت دندان خلاص کند.
منبع: خبرگزاری تسنیم
رضا زرندی رییس کل دادگستری استان خراسان رضوی شد