با گسترش استفاده از هوش مصنوعی مولد (Generative AI)، محتوای تولیدشده توسط مدل‌های هوش مصنوعی به بخش‌های مختلف زندگی دیجیتال راه پیدا کرده است؛ از مقاله و محتوای وب گرفته تا کتاب. اما آیا می‌توان به‌راحتی یک کتاب نوشته‌شده توسط هوش مصنوعی را از کتابی که یک انسان نوشته است تشخیص داد؟

بررسی جدیدی که در فروشگاه Amazon انجام شده، نشان می‌دهد پاسخ این سؤال چندان ساده نیست. تشخیص کتاب‌های تولیدشده با هوش مصنوعی، حتی با بررسی دقیق محتوای آن‌ها، می‌تواند بسیار دشوارتر از انتظار باشد.

افزایش بی‌سابقه انتشار آثار الگوریتمی

در سال‌های اخیر، انتشار کتاب‌هایی که تمام یا بخشی از محتوای آن‌ها با کمک هوش مصنوعی تولید شده، به موضوعی بحث‌برانگیز در صنعت نشر تبدیل شده است. ظهور ابزارهای تولید متن مانند مدل‌های زبانی بزرگ (LLMs) باعث شده هر فردی بتواند در مدت کوتاهی محتوای یک کتاب کامل را تولید و آن را در پلتفرم نشر مستقیم آمازون (Amazon KDP) منتشر کند.

اما مشکل اصلی اینجاست که بسیاری از این کتاب‌ها در نگاه اول تفاوت آشکاری با آثار نوشته‌شده توسط انسان ندارند. بررسی‌های میدانی روی کتاب‌های موجود در آمازون نشان می‌دهد پیدا کردن نمونه‌های احتمالی آسان است، اما اثبات قطعی اینکه یک کتاب صددرصد توسط AI نوشته شده یا نه، کاری بس پیچیده است.

تکامل مدل‌های زبانی و تقلید بی‌نقص از سبک انسانی

یکی از دلایل اصلی این مسئله، پیشرفت سریع الگوریتم‌ها و مدل‌های هوش مصنوعی است. ابزارهای امروزی می‌توانند متن‌هایی تولید کنند که از نظر ساختار، لحن، جمله‌بندی و انسجام مفاهیم، کاملاً طبیعی به نظر می‌رسند.

در گذشته، محتوای تولیدشده توسط هوش مصنوعی اغلب نشانه‌هایی مانند تکرار زیاد کلمات، لحن بی‌روح، جملات کلیشه‌ای یا ساختارهای غیرطبیعی داشت. اما نسل جدید مدل‌ها توانایی فوق‌العاده‌ای در شبیه‌سازی سبک نوشتاری نویسندگان انسانی پیدا کرده‌اند. در نتیجه، تکیه بر «حس شهودی خواننده» یا بررسی ظاهری متن دیگر سنجه معتبری نیست.

طیف گسترده استفاده از هوش مصنوعی در فرایند خلق اثر

یکی از نکات کلیدی این بررسی آن است که نمی‌توان تمام کتاب‌های همراه با هوش مصنوعی را لزوماً کم‌ارزش یا بی‌کیفیت دانست. فرایند استفاده از این ابزارها یک طیف پیوسته است:

۱. نقش دستیار دستیار: ممکن است نویسنده از هوش مصنوعی صرفاً برای ایده‌پردازی، گردآوری اطلاعات اولیه، طوفان فکری یا ویرایش گرامری استفاده کرده باشد، اما شالوده اصلی کتاب حاصل قلم و خلاقیت انسانی باشد.

۲. تولید حداکثری: در سمت دیگر طیف، افرادی قرار دارند که کل متن را با دستورهای متوالی (Prompts) تولید کرده و تنها نقشی جزئی در ویرایش نهایی ایفا کرده‌اند.

همین مرز شناور باعث می‌شود عنوان «کتاب کاملاً AI» یا «کتاب هم‌افزا با AI» تعاریف متفاوتی پیدا کند.

چالش خطاهای مثبت و منفی در آشکارسازها (AI Detectors)

ابزارهای تشخیص متن (AI Detector Tools) بر اساس برآورد احتمال و الگوی پیچیدگی واژگان عمل می‌کنند، اما نتایج آن‌ها به‌هیچ‌وجه قطعیت ندارد.

بارها دیده شده که متون اصیل انسانی به اشتباه به‌عنوان محتوای هوش مصنوعی نشانه‌گذاری می‌شوند (False Positive) و در مقابل، متون اصلاح‌شده هوش مصنوعی به‌راحتی از فیلتر این ابزارها عبور می‌کنند. بنابراین، اتکای محض به این ابزارها نمی‌تواند ملاک قضاوت یا اثبات باشد.

تهدید کیفیت بازار و حوزه‌های حساس (پزشکی و آموزش)

از یک سو، هوش مصنوعی سرعت تولید محتوا را برای نویسندگان افزایش داده است؛ اما از سوی دیگر، ورود حجم عظیمی از کتاب‌های کم‌کیفیت بازار کتاب را اشباع کرده و کشف آثار ارزشمند را برای مخاطبان سخت‌تر می‌سازد.

این چالش زمانی بحرانی می‌شود که کتاب‌های AI در حوزه‌های حساسی مانند پزشکی، سلامت روان، کتب آموزشی و راهنماهای فنی منتشر شوند؛ حوزه‌هایی که وجود اطلاعات نادرست یا توهمات مدل‌های زبانی (Hallucinations) می‌تواند خطرات واقعی به همراه داشته باشد.