مکالمه های پنهان شده سد دفاعی هوشمند دیوار در مقابل مزاحمت

به گزارش اتاق خبر دیوار، طی روزهای گذشته توجه کاربران در شبکه‌های اجتماعی به پوشهٔ مکالمه‌های «پنهان شده» در چت دیوار جلب شده است. این قابلیت یکی از ابزارهایی است که تیم کاهش مواجهه با مزاحمت دیوار توسعه داده و باعث می‌شود که مواجهه کاربران با پیام‌های آزاردهنده کاهش قابل توجهی داشته باشد.

حفاظت از کاربران، مقابله با مزاحمت

دیوار در راستای افزایش امنیت کاربران و بهبود تجربه استفاده از این پلتفرم، قابلیت جدیدی به نام پوشهٔ مکالمه‌های «پنهان شده» را در بخش چت خود معرفی کرده است. این ویژگی با هدف کاهش مواجهه کاربران با پیام‌های مزاحم و نامناسب طراحی شده است.

ویژگی پوشه‌ٔ مکالمه‌های «پنهان شده» باعث می‌شود پیام‌های نامناسب به‌صورت پیش‌فرض جلوی چشم مخاطب قرار نگیرد. دیوار به کمک مدل هوش‌مصنوعی و گزارش‌های کاربران، پیام‌های نامناسب را به صورت خودکار شناسایی و به پوشه‌ٔ مکالمه‌های «پنهان‌شده» منتقل می‌کند.

به صورت خلاصه این ابزار جدید این ویژگی‌ها را در اختیار کاربر قرار می‌دهد:

شناسایی خودکار پیام‌های نامناسب:با استفاده از مدل‌های هوش مصنوعی و گزارش‌های کاربران، پیام‌های مزاحم به صورت خودکار شناسایی می‌شوند.

انتقال به پوشه جداگانه:پیام‌های شناسایی شده به عنوان مزاحمت، به جای نمایش در صندوق اصلی، به پوشه مکالمه‌های «پنهان شده» منتقل می‌شوند.

عدم ارسال نوتیفیکیشن:کاربران برای پیام‌های موجود در این پوشه نوتیفیکیشنی دریافت نمی‌کنند، که باعث کاهش مزاحمت می‌شود.

کنترل در دست کاربر:کاربران می‌توانند با تصمیم خود محتوای این پوشه را بررسی کرده و در صورت لزوم پیام‌ها را به فهرست اصلی منتقل کنند. در این پوشه، امکاناتی مانند انتقال به فهرست اصلی، مسدود کردن کاربر و حذف مکالمه وجود دارد.

توسعه مدل ویژه هوش‌مصنوعی

دیوار همچنین با استفاده از Generative AI خود همیشه در حال شناسایی انواع شیوه‌های جدید و کمتر شناخته‌شده‌ٔ آزار است تا پیش از تبدیل‌‌شدنشان به موضوعاتی فراگیر، از آنها پیشگیری کند.

تیم کاهش مواجهه با مزاحمت دیوار از مرداد ۱۴۰۲ با هدف امن‌تر کردن فضای معامله برای آگهی‌گذاران شروع به کار کرد. تمرکز این تیم بر شناسایی و پنهان کردن مکالمات یا تصاویر آزاردهنده و نامربوط به معامله در چت دیوار و ارائه‌ٔ ابزارهایی برای کاهش مواجهه با مزاحمت‌های احتمالی است.

دیوار و کاربران در مقابل مزاحمان

در دیوار مانند همه پلتفرم‌های آنلاین دیگر داخلی و خارجی، به‌خصوص در دسته‌های مربوط به زنان که مهم‌ترین‌شان کیف و کفش، لباس و بعد از آن دسته‌های آرایشی و زیبایی یا دسته کار و پیشه محسوب می‌شوند، پدیده آزارگری و مزاحمت وجود دارد.

دیوار با اولویت دادن به مسئله رسیدگی و مقابله با مزاحمت و پیام‌های آزاردهنده، مجموعه اقدام‌هایی را برای امن‌کردن این پلتفرم و بهبود تجربه کاربران انجام داده است. این قابلیت‌ها هم‌چنان در حال توسعه و بهبود هستند.

مجموعه اقدام‌های این تیم که پوشه‌ٔ مکالمه‌های «پنهان شده» یکی از آنها به حساب می‌آید در مجموع باعث کاهش ۵۰ درصدی مواجهه کاربران با مزاحمت در دیوار شده است.

با این حال دیوار هم‌چنان معتقد است بهترین راه تشخیص مزاحمت با استفاده از گزارش و بازخورد خود کاربران است و به همین علت برای راحت‌تر کردن مسدودسازی، گزینه‌ٔ بلاک را در چت و تماس ناشناس در دسترس‌تر قرار داده و امکان گزارش مزاحمت از سوی کاربران را راحت‌تر کرده است.