۳۰ آبان ۱۴۰۵، شنبه تبریز ۹°
دلار۲۶۸٬۹۶۰ تومان ▼ ٪۰٫۳۸یورو۲۹۵٬۵۶۰ تومان ▼ ٪۰٫۶۰درهم۷۳٬۲۷۴ تومان ▼ ٪۰٫۳۷لیر۵٬۳۵۰ تومان • ٪۰٫۰۰پوند۳۵۲٬۰۹۰ تومان ▼ ٪۰٫۸۲طلای ۱۸ عیار۲۲٬۹۴۷٬۰۰۰ تومان ▼ ٪۵٫۸۴
تبریز فوری
خبر فوری

ابتکار جدید اوپن‌ای‌آی برای مبارزه با سوءاستفاده از کودکان

اوپن‌ای‌آی از ویژگی‌های جدیدی برای مبارزه با سوءاستفاده از کودکان خبر داد که شامل طبقه‌بندی‌کننده تصویر، هشدار و مسدودسازی موقت در چت‌جی‌پی‌تی است.

· ۲ دقیقه مطالعه
ابتکار جدید اوپن‌ای‌آی برای مبارزه با سوءاستفاده از کودکان
ویژگی‌های جدید اوپن‌ای‌آی برای تشخیص و جلوگیری از سوءاستفاده از کودکان

به گزارش تبریز فوری به نقل از ایسنا، اوپن‌ای‌آی در میان نگرانی‌های ایمنی روبه‌رشد درباره استفاده از محصولات هوش مصنوعی، از ویژگی‌های جدیدی برای مبارزه با سوءاستفاده از کودکان خبر داد.

به گزارش ایسنا به نقل از تک‌کرانچ، این ویژگی‌ها شامل یک طبقه‌بندی‌کننده تصویر برای تشخیص سوءاستفاده از کودکان، هشدارها و مسدودسازی موقت برای جلوگیری از ایجاد محتوای جنسی درباره کودکان یا دسترسی کاربران به آنها، یک دستورالعمل جدید برای توسعه‌دهندگان و مجموعه‌ای از ابزار برای اجرای قانون هستند.

طبقه‌بندی‌کننده جدید تصویر

این شرکت یک طبقه‌بندی‌کننده تصویر جدید را معرفی کرد که می‌تواند تصاویر سوءاستفاده از کودکان را تشخیص دهد؛ از جمله تصاویری که توسط هوش مصنوعی تولید شده‌اند. اوپن‌ای‌آی امکان دسترسی به طبقه‌بندی‌کننده جدید خود را از طریق API خود و بدون هزینه به شرکت‌های انتخاب‌شده می‌دهد. این ویژگی به دنبال نشانه‌های بصری سوءاستفاده در تصاویری است که قبلا دیده نشده‌اند و امتیازی را تعیین می‌کند که می‌تواند راهنمایی‌هایی را به بازبینی‌کنندگان درباره برخورد با سوءاستفاده از کودکان ارائه دهد.

همکاری با نهادهای تخصصی

اوپن‌ای‌آی گفت که این طبقه‌بندی‌کننده را با همکاری «مرکز ملی کودکان گمشده و مورد سوءاستفاده» توسعه داده است و با سازمان‌های «Tech Coalition» و «ROOST» برای به اشتراک گذاشتن دسترسی به آن کار می‌کند. این شرکت در آزمایش اولیه خود با شرکا دریافت که طبقه‌بندی‌کننده، تصاویر را تا ۴۸ درصد کمتر نشان می‌دهد، اما همان تعداد تصاویر مربوط به سوءاستفاده را پیدا می‌کند و کار بازبینی‌کنندگان را کاهش می‌دهد. علاوه بر این، تصاویری که توسط طبقه‌بندی‌کننده علامت‌گذاری شده‌اند، دو برابر بیشتر احتمال دارد که تصاویر توهین‌آمیز باشند.

هشدار و تعلیق موقت در چت‌جی‌پی‌تی

علاوه بر این، اوپن‌ای‌آی صفحه‌های هشدار جدید را به چت‌بات «چت‌جی‌پی‌تی» اضافه کرده است تا از دسترسی کاربران به محتوای جنسی درباره کودکان جلوگیری کند. چت‌جی‌پی‌تی به کاربرانی که چنین درخواست‌هایی را دارند هشدار می‌دهد، کاربران را به سمت پشتیبانی تخصصی برای متوقف کردن رفتار مضر هدایت می‌کند و حساب آنها را به عنوان هشدار برای ۲۴ ساعت تعلیق می‌کند. این برنامه در حال حاضر محتوای سوءاستفاده از کودکان و درخواست‌های مربوط به آن را مسدود می‌کند. گفته شده است که تخلفات مکرر می‌تواند به حذف دائمی حساب کاربری منجر شود.

منبع: www.isna.ir

خبر بعدی

تاب‌آوری ملی به معنای حفظ زندگی مردم و تداوم خدمات حیاتی است

علم و فناوری · ۵ دقیقه مطالعه

اخبار مرتبط

همه ›
علم و فناوری

علت اختلال‌های اخیر در زیرساخت‌های دیجیتال آمریکا چیست؟

در روزهای اخیر چند اختلال گسترده در خدمات مایکروسافت، کنترل ترافیک هوایی، بانک‌ها و سامانه محرمانه آژانس امنیت ملی آمریکا رخ داده است. مقامات و کارشناسان درباره علت این وقایع اختلاف نظر دارند.

۳۰ آبان ۱۴۰۵ ۲۰:۱۶۶ دقیقه مطالعه
علم و فناوری

مدیرعامل روس‌اتم از وضعیت نیروگاه هسته‌ای بوشهر گزارش داد

الکسی لیخاچف، مدیرعامل روس‌اتم، شامگاه شنبه در مصاحبه‌ای با خبرگزاری ریانوستی از آخرین وضعیت پروژه نیروگاه هسته‌ای بوشهر گفت و تاکید کرد این پروژه همچنان در اولویت این شرکت است.

۳۰ آبان ۱۴۰۵ ۱۹:۵۹۲ دقیقه مطالعه
علم و فناوری

کپسول باری دراگون اسپیس‌ایکس به سوی زمین بازمی‌گردد

کپسول باری دراگون شرکت اسپیس‌ایکس از ایستگاه فضایی بین‌المللی جدا شد و قرار است روز ۲۱ نوامبر در نزدیکی سواحل کالیفرنیا فرود آید. در این مأموریت، محموله‌ای شامل نمونه‌های پژوهشی به زمین بازگردانده می‌شود.

۳۰ آبان ۱۴۰۵ ۱۶:۵۰۲ دقیقه مطالعه

اخبار بیشتر