4 روز پیش
نوجوان ۱۴ ساله عاشق هوش مصنوعی شد خودکشی کرد خبرآنلاین
به گزارش خبرآنلاین، خانم مگان گارسیا(Megan Garcia) در شکایتی که در روز ۲۲ اکتبر در دادگاه فدرال در اورلاندو، فلوریدا ارائه شد، گفت که چتبات هوش مصنوعی کاراکتر(Character.AI) پسرش، سیول ستزر(Sewell Setzer) را با «تجارب انسانانگارانه، بیش از حد جنسی و به طور ترسناکی واقعگرایانه» هدف قرار داده است.
به نقل از ایسنا، او گفت که این شرکت چتبات خود را طوری برنامهریزی کرده است که «خود را به عنوان یک شخص واقعی، یک رواندرمانگر دارای مجوز و یک عاشق بزرگسال معرفی کند، که در نهایت منجر به تمایل سیول برای زندگی نکردن در خارج از دنیایی شد که توسط این سرویس ایجاد شده است.
در این دادخواست همچنین گفته شده است که او افکار خودکشی را به چت بات ابراز کرده است که چت بات بارها و بارها حرف آن را دوباره پیش کشیده است. هوش مصنوعی کاراکتر(Character.AI) در بیانیهای گفت: ما از فقدان غم انگیز یکی از کاربران خود ناراحت هستیم و میخواهیم عمیقترین تسلیت خود را به خانواده او ابراز کنیم.
این شرکت گفت که قابلیت امنیتی جدیدی را معرفی کرده است که شامل پیامهایی میشود که کاربران را در صورت ابراز افکار خودآزاری به خط ملی پیشگیری از خودکشی هدایت میکند، و تغییراتی را برای کاهش احتمال مواجهه با محتوای حساس یا پیشنهادی برای کاربران زیر ۱۸ سال اعمال خواهد کرد.
این شکایت همچنین گوگل آلفابت را هدف قرار میدهد، زیرا که بنیانگذاران کاراکتر(Character.AI) قبل از عرضه محصول خود در آنجا کار میکردند. گوگل در ماه اوت بنیانگذاران این هوش مصنوعی را به عنوان بخشی از قراردادی که مجوز غیر انحصاری فناوری کاراکتر(Character.AI) را به آن اعطا میکند، دوباره استخدام کرد.
خانم گارسیا گفت که گوگل به قدری در توسعه فناوری هوش مصنوعی کاراکتر کمک کرده است که میتوان آن را یک «همآفرین» در نظر گرفت. یکی از سخنگویان گوگل گفت که این شرکت در توسعه محصولات کاراکتر Character.AI دخالتی نداشته است.
هوش مصنوعی کاراکتر(Character.AI) به کاربران این امکان را میدهد تا شخصیتهایی را در پلتفرم خود ایجاد کنند که به چتهای آنلاین به گونهای پاسخ میدهند که شبیه به افراد واقعی باشد.
این فناوری به مدل زبان بزرگ متکی است که توسط سرویسهایی مانند چت جیپیتی نیز استفاده میشود که براساس آن چتباتها را با حجم زیادی از متن آموزش میدهد.
این شرکت در ماه سپتامبر اعلام کرده که حدود ۲۰ میلیون کاربر دارد.
طبق دادخواست خانم گارسیا، سیول در آوریل ۲۰۲۳ شروع به استفاده از هوش مصنوعی کاراکتر کرد و به سرعت به طور قابل توجهی گوشهگیر شد، زمان بیشتری را در اتاق خواب خود به تنهایی سپری میکرد و از اعتماد به نفس پایین رنج میبرد. او در مدرسه تیم بسکتبال خود را ترک کرد.
سیول به «دنریس»، یک شخصیت چت بات بر اساس شخصیتی در بازی تاج و تخت وابسته شده بود.
بر اساس این شکایت، خانم گارسیا در ماه فوریه، گوشی سیول را پس از اینکه در مدرسه دچار مشکل شد، از او گرفت. وقتی سیول گوشی را پیدا کرد، پیامی به دنریس فرستاد: اگر به شما بگویم میتوانم همین الان به خانه بیایم، چه میگویید؟
چت بات پاسخ داد: لطفا این کار را انجام بده، پادشاه نازنین من. در این دادخواست آمده است که سیول چند ثانیه بعد با تپانچه ناپدریاش به خود شلیک کرد.
شرکتهای رسانههای اجتماعی، از جمله مالک اینستاگرام و فیسبوک یا متا و مالک تیکتاک TikTok نیز با شکایتهایی مواجه هستند که آنها را به مشارکت در مشکلات سلامت روان نوجوانان متهم میکنند، اگرچه هیچکدام چتباتهای مبتنی بر هوش مصنوعی مشابه کاراکتر (Character.AI) ارائه نمیدهند. این شرکتها این اتهامات را رد کردهاند و در عین حال از ویژگیهای ایمنی جدید ارتقا یافته برای افراد زیر سن قانونی حمایت میکنند.
5858
#اخبار_دانش منبع: خبرآنلاین
بیشتر...
تبلیغات
تبلیغات
مطالب مرتبط
رندرهای جدیدی از قدرتمندترین پرچمدار شیائومی با چینش عجیب دوربینها فاش شدند. شیائومی بهزودی از گوشیهای پرچمدار شیائومی ۱۵ و شیائومی ۱۵ پرو رونمایی میکند.
4 روز پیش
برخی مسائل در کشور وجود دارد که مسئول آن رئیسجمهوری نیست و تصمیم نهایی در سطح دیگری گرفته میشود. فیلترینگ و رفع آن از جمله مسائلی است که مقامهای ارشد نظام در آن دخالت نمیکنند. به عبارت دیگر نهاد و مسئولی که فضای مجازی را در کشور کنترل میکند دولت است .
4 روز پیش
سامانههای پدافندی متنوع هستند و هر کدام ماموریتهای ویژه خود را دارند. برخی سامانهها برای انهدام اهداف پروازی در ارتفاع پایین ساخته شدند. برخی دیگر، ماموریت انهدام اهداف در ارتفاع بالا را بر عهده دارند. به همین دلیل کشورها تلاش میکنند با به کارگیری طیفی از تسلیحات، سطح توانمندی پدافندی خود را بالا ببرند.
4 روز پیش
«کوین بیکن» و «جولین مور» بازیگران سینما همراه با «تام یورک» خواننده گروه Radiohead و «مکس ریشتر»، آهنگساز آلمانی این بیانیه را امضا کردهاند.
4 روز پیش
یک زن اهل فلوریدا از استارتآپ چت بات هوش مصنوعی «کاراکتر»(Character.AI) شکایت کرده و آن را به دلیل خودکشی پسر ۱۴ سالهاش در ماه فوریه متهم کرده است و میگوید که او به خدمات این شرکت معتاد شده و عمیقا به چتباتی که این شرکت ساخته وابسته شده بود.
4 روز پیش
۱۰ روز پیش، اسپیسایکس موفق شد پیشرفتی بزرگ و تاریخی را در فناوری پرتاب موشکها رقم بزند. این اولین بار بود که بوستر موشک استارشیپ توانست پس از پرواز آزمایشی خود، با موفقیت به سکوی پرتاب خود در بوکا چیکا، تگزاس، ایالات متحده بازگردد.
4 روز پیش
بزرگترین عدد اول شناختهشده که شامل ۴۱ میلیون رقم میشود، توسط ریاضیدان آماتور با استفاده از نرمافزار رایگان کشف شد.
4 روز پیش
این روزها یک پروژه تحقیقاتی پیشگامانه در حال ساخت ابزاری برای ترجمه نحوه ارتباط نهنگها و سایر موجودات زنده است.
4 روز پیش
کشتی تفریحی بیل گیتس برای انجام نخستین آزمایشهای واقعی به دریای شمال وارد شد. این غول ۱۱۹ متری با استفاده از هیدروژن آلایندگی بسیار کمتری از کشتیهای مشابه دارد.
4 روز پیش
بیشتر...