دیجیاتو |
2 سال پیش

تشخیص احساسات با هوش مصنوعی چه خطراتی دارد

تکنولوژی تشخیص احساسات برخی از جامعه‌شناسان را نگران کرده و محققان در تلاشند تا هدف واقعی این تکنولوژی را به عموم نشان دهند و این موضوع را به مناظره عمومی بکشانند. این تکنولوژی که با الگوریتم‌های یادگیری ماشینی (Machine Learning) برای تشخیص احساسات انسان طراحی شده، یکی از صنعت‌های بزرگ دنیا به شمار می‌رود و ادعا می‌شود که می‌تواند در شرایط بی‌شماری، از امنیت جاده‌ها تا مطالعات بازار، مورد استفاده قرار بگیرد و ارزشمند باشد.

اما به نظر منتقدان این تکنولوژی تهدیدی برای حریم خصوصی به حساب می‌آید و حتی پر از اشتباه و نژادپرستانه طراحی شده است.

تیمی از محققان وب‌سایتی به نام «ایموجیفای» طراحی کرده‌اند که در آن با وبکم یا دوربین سلفی می‌توانید این تکنولوژی را امتحان کنید. در یکی از بازی‌های روی این سایت می‌توانید با تغییر حالت چهره خود، هوش مصنوعی را گول بزنید و در بخش دیگر می‌توانید خطای این سیستم در تشخیص حالات چهره در متن را مشاهده کنید.

پدیدآورندگان این سایت امیدوارند تا بتوانند دانش عمومی مربوط به این تکنولوژی را افزایش دهند تا مناظره‌ای عمومی درباره استفاده از آن شکل بگیرد. آن‌ها معتقدند که این سیستم نوعی از تشخیص چهره است که ادعا می‌کند می‌تواند احساسات درونی را از چهره تشخیص بدهد.

در سال‌های اخیر، تکنولوژی تشخیص چهره مورد نقد و بررسی شدیدی قرار گرفته است. سال گذشته، کمیسیون برابری و حقوق بشر اعلام کرد که استفاده از تشخیص چهره برای اسکن جمعی به دلیل افزایش تبعیض نژادی، جنسیت، گرایش‌های جنسی و سن و نقض آزادی بیان باید متوقف شود.

عموم مردم اطلاعی از موارد استفاده از تشخیص چهره ندارند. این تکنولوژی در استخدام مشاغل، شناخت مشتری، امنیت فرودگاه و حتی آموزش برای بررسی میزان فعالیت دانش‌آموزان و در همه جای دنیا از اروپا گرفته تا ایالات متحده و چین استفاده می‌شود.

یکی از کمپانی‌های متخصص در زمینه تشخیص احساسات مدعی شده که از این تکنولوژی در تنظیمات همه محصولاتش از سیستم امینتی خانه‌ها تا زندان‌ها استفاده کرده است.

سال گذشته شهر لاکنو در هند اعلام کرد که از این سیستم برای تشخیص آشفتگی در خانم‌ها برای گزارش مزاحمت استفاده می‌کند که با انتقاد از سمت سازمان حقوق دیجیتال و سایرین مواجه شد.

تکنولوژی تشخیص احساسات ممکن است پتانسیل کاربردی و مفید بودن داشته باشد؛ اما قبل از استفاده از آن باید درباره دقیق بودن، نداشتن زمینه نژادی و همینطور کاربردی بودن این سیستم در زمینه کاری مربوطه تحقیقات کاملی انجام شود و لازم است تا مکالمه و مشورت عمومی در مقیاس وسیع‌تری درباره آن صورت بگیرد.

این پروژه جدید به کاربران اجازه می‌دهد تا تکنولوژی تشخیص احساسات را امتحان کنند و در سایت مذکور که هیچ داده شخصی از طریق آن جمع‌آوری نمی‌شود و تمامی تصاویر روی دستگاه خود کاربر ذخیره می‌شود.

در یکی از بازی‌ها، کاربران می‌توانند حالت چهره خود را تغییر دهند تا متوجه خطای این سیستم در تشخیص حالات درونی آن‌ها شوند.

توسعه‌دهندگان این تکنولوژی ادعا می‌کنند که این سیستم می‌تواند احساسات درونی را بخواند؛ اما در واقعیت این سیستم حرکات اعضای صورت را با فرض‌های ایجاد شده تطبیق می‌دهد، به عنوان مثال لبخند به معنی خوشحال بودن است و برای این سیستم معنی دیگری ندارد.

شواهدی محکمی در علم وجود دارد که چنین نتیجه‌گیری‌های ساده‌ای را رد می‌کند و حتی با تجربه ثابت شده که می‌توان لبخند مصنوعی زد. هدف این بازی دقیقا همین است که نشان دهد می‌توان حالت چهره را بدون اینکه حالات و احساسات درونی تغییری کند، عوض کرد.

برخی از محققان زمینه تشخیص احساسات اعلام کرده‌اند که کاملا به چنین محدودیت‌هایی آگاهند اما امیدوارند تا این پروژه جدید آگاهی جامعه نسبت به این تکنولوژی را افزایش دهد.

آن‌ها معتقدند که ما دیگر کاربران تکنولوژی نیستیم و به گونه‌ای شهروندان دنیایی هستیم که با تکنولوژی تغییر می‌کنیم، بنابراین باید قوانین دموکراتیک و حقوق شهروندی درباره چنین مبحث مهمی وجود داشته باشد.

سازمان حقوق بشر اعلام کرده که توقف بازار سیستم تشخیص احساسات امری واجب است. این تکنولوژی کاملا بر اساس تبعیض جنسیت، نژاد، گرایشات جنسی و سن ساخته شده و از ریشه با حقوق بشر ناسازگار است.

مسیر حرکت سیستم تشخیص احساسات در سراسر دنیا به ما نشان داد تا گهگاه صحت و نیاز به تکنولوژی‌های جدید را زیرسوال ببریم. پروژه‌هایی که محدودیت‌های چنین تکنولوژی‌هایی را مشخص می‌کنند، می‌توانند قدم مهمی برای این حرکت باشند.



#‌فناوری #‌تکنولوژی #‌علمی منبع: دیجیاتو

بیشتر...


تبلیغات

تبلیغات

مطالب مرتبط

یکی دیگر از طرح‌هایی که در ششمین کنفرانس تحقیقات کاربردی دفاع و امنیت که در شهر بن آلمان برگزار شد، طرح نمایشگر فناوری جنگنده آینده بود.

دیروز

درحالی‌که زمان زیادی تا معرفی نسل بعدی گوشی‌های سری گلکسی S باقی مانده است، باید منتظر شروع انتشار گزارش‌ها و شایعات درباره آن‌ها باشیم.

7 ساعت پیش

گوشی گلکسی A55 سامسونگ دارای قابلیت جذاب و مهمی است که حتی گوشی‌های پرچمدار سری گلکسی S24 نیز از آن بی‌بهره هستند. اما این ویژگی چیست؟

10 ساعت پیش

گواهی‌ جدید گلکسی زد فولد ۶ و گلکسی زد فیلپ ۶ نشان می‌دهد سرعت شارژ این گوشی‌ها بدون تغییر باقی خواهد ماند.

دیروز

فردی که از قوانین گارانتی اپل برای تبدیل آیفون و آیپد تقلبی به مدل‌ اصل استفاده می‌کرد، دستگیر و به‌ تحمل حبس محکوم شد.

8 ساعت پیش

تصاویر فاش‌شده‌ی جدید از پیکسل ۹ نشان می‌دهند گوشی جدید گوگل برخلاف پیش‌بینی‌ها به دو دوربین مجهز است.

21 ساعت پیش

خودرو جدید فولکس‌واگن ۲۰ اسب‌بخار قدرت دارد و از چرخ‌های عقب عجیب بهره می‌برد.

22 ساعت پیش

خودرو دو درِ مینی کوپر اس ۲۰۲۵ (مدل جدید خودرو خاطره‌انگیز مستربین) با گیربکس هفت سرعته در رنگ‌های جذاب رونمایی شد.

دیروز

به زادگاه و موزه مرسدس‌بنز در اشتوتگارت آلمان خوش آمدید!  کارل بنز در این شهر، با اختراع اولین خودرو، دنیای انسان‌ها را تغییر داد.

19 ساعت پیش

بیشتر...