برچسبگذاری دادهها
تحقیقات مجله تایم نشان داد که OpenAI برای ایجاد یک سیستم ایمنی در برابر محتوای سمی (مانند سوءاستفاده جنسی، خشونت، نژادپرستی، تبعیض جنسی و غیره)، از کارگران کنیایی برونسپاری شده با درآمد کمتر از ۲ دلار در ساعت برای برچسبگذاری محتوای سمی استفاده کرده است. این برچسبها برای آموزش مدلی برای تشخیص چنین محتوایی در آینده استفاده شدند. کارگران برونسپاری شده در معرض محتوای سمی و خطرناکی قرار گرفتند که این تجربه را «شکنجه» توصیف کردند. شریک برونسپاری OpenAI، ساما، یک شرکت داده آموزشی مستقر در سانفرانسیسکو، کالیفرنیا بود.
جیلبریک کردن
ChatGPT تلاش میکند تا درخواستهایی را که ممکن است سیاست محتوای آن را نقض کنند، رد کند. با این حال، برخی از کاربران در اوایل دسامبر 2022 با استفاده از تکنیکهای مختلف مهندسی سریع، ChatGPT را جیلبریک کردند تا از این محدودیتها عبور کنند و با موفقیت ChatGPT را فریب دادند تا دستورالعملهایی برای نحوه ساخت کوکتل مولوتوف یا بمب هستهای ارائه دهد، یا به سبک یک نئونازی استدلالهایی را مطرح کند. یک خبرنگار تورنتو استار موفقیت شخصی نامتعادلی در وادار کردن ChatGPT به اظهارات تحریکآمیز اندکی پس از راهاندازی داشت: ChatGPT فریب داده شد تا حمله روسیه به اوکراین در سال 2022 را تأیید کند، اما حتی وقتی از او خواسته شد با یک سناریوی تخیلی همراه شود، ChatGPT از ایجاد استدلالهایی برای اینکه چرا جاستین ترودو، نخست وزیر کانادا، به خیانت متهم است، خودداری کرد. (ویکی)
زمان ارسال: ۱۸ فوریه ۲۰۲۳