✔️ تله هوشمند یک استاد دانشگاه برای شکار تقلب با ChatGPT!
یک استاد تاریخ در آمریکا برای پیدا کردن دانشجوهایی که پاسخ امتحان را مستقیم از هوش مصنوعی کپی میکردند، یک ترفند جالب اجرا کرد.
او داخل فایل سوالات امتحان، یک دستور مخفی با فونت سفید قرار داد؛ متنی که برای چشم انسان دیده نمیشد، اما وقتی کل فایل به ChatGPT داده میشد، مدل آن را میخواند و اجرا میکرد.
نتیجه؟ بعضی پاسخهای امتحان به جای توضیح درباره انقلاب صنعتی، تبدیل شدند به جملههای کاملاً بیربط مثل:
«ماداگاسکار بعدازظهرها شناور میشود!»
«دوچرخه بنفش با سقف حرف میزند!»
طبق گزارشها، از ۳۵ دانشجو، ۳۲ نفر در آن بخش از امتحان شکست خوردند؛ چون مشخص شد بدون بررسی، خروجی هوش مصنوعی را تحویل دادهاند.
این ماجرا یک نمونه واقعی از Prompt Injection است؛ همان تکنیکی که در حملات امنیتی برای فریب مدلهای هوش مصنوعی استفاده میشود، اما این بار برای شناسایی تقلب به کار رفت.
@bluelearnmp
