به گزارش پیچینو، ژیچنگ لین در یادداشتی در نشریه Nature هشدار می‌دهد که این سامانه‌ها، به‌طور ناخودآگاه یا به دلیل طراحی الگوریتم‌ها، ممکن است ارجاعات علمی را به منابع خاصی منحرف کنند. در عمل، یعنی مقالات و ایده‌هایی که «سلیقه» الگوریتم را جلب می‌کنند، بیشتر دیده می‌شوند، و سایر کارها ـ حتی اگر ارزشمند باشند ـ به حاشیه رانده می‌شوند. نتیجه‌ی این روند، تحریف تدریجی ادبیات علمی است؛ یک شیفت آرام اما عمیق که ممکن است سال‌ها طول بکشد تا اثرش آشکار شود.
مشکل در ساختار جعبه‌سیاه این الگوریتم‌هاست. هیچ‌کس به‌طور شفاف نمی‌داند که چرا و چگونه برخی منابع انتخاب می‌شوند و برخی نادیده گرفته می‌شوند. لین پیشنهاد می‌کند که جامعه علمی فوراً به سمت تدوین دستورالعمل‌های اخلاقی برای استفاده از AI در پژوهش حرکت کند:

• شفافیت کامل محققان در ذکر استفاده از AI؛
• راستی‌آزمایی دقیق ارجاعات پیش از انتشار؛
• ممانعت از تکرار و برجسته‌سازی گزینشی منابع توسط سیستم‌های هوش مصنوعی.

در نگاه راهبردی، این هشدار تنها برای غرب یا مجامع علمی بزرگ نیست. در ایران، که منابع پژوهشی محدودتر و هزینه تهیه و دسترسی به آنها بالاتر است، وابستگی به سامانه‌های بیرونی می‌تواند اثرات مضاعفی داشته باشد. بدون نظارت دقیق، ممکن است ادبیات علمی کشور تحت تأثیر سوگیری‌های الگوریتمی خارجی بازتعریف شود. از این رو، سرمایه‌گذاری بر توسعه الگوریتم‌های بومی، ساخت مخازن داده کنترل‌شده و آموزش سواد داده‌ای به پژوهشگران، اهمیت پیدا می‌کند.
«دستورالعمل‌ها شاید سرعت کار را کم کنند، اما نبودشان می‌تواند مسیر علم را به‌کل تغییر دهد.» — ژیچنگ لین
در نهایت، همان‌طور که لین تأکید می‌کند، بحران بزرگ، از بخش ساده‌ای در مقالات علمی آغاز می‌شود: فهرست مراجع.