به گزارش پیچینو به نقل از فارس؛ تصور کنید ایمیلی بی‌نقص تنها با یک اشاره انگشت برایتان نوشته می‌شود، یا خلاصه‌ای جامع از پیچیده‌ترین مفاهیم را در لحظه در اختیار دارید. این حس قدرت و آسانیِ اغواکننده است، اما در همین لحظه راحتی، چیزی ظریف و حیاتی در حال تغییر است.شما ناآگاهانه بخشی از فرآیند تفکر خود را به منبعی بیرونی واگذار کرده‌اید؛ فرآیندی که نه تنها بی‌دردسر به نظر می‌رسد، بلکه عمق آن به قدری ناپیداست که ممکن است هرگز متوجه عواقبش نشوید. خطری که از آن بی‌خبرید و هر لحظه بیشتر تهدیدتان می‌کند، اینجاست: شکل‌گیری ذهن شما توسط منطق پنهان هوش مصنوعی.اگر این آگاهی را نداشته‌باشید، ممکن است به تدریج کنترل یکی از ارزشمندترین دارایی‌های انسانی، یعنی توانایی تفکر مستقل را از دست بدهید.

وقتی تکنولوژی، ذهن را مهندسی می‌کند

چند دهه پیش، فیلسوف فرانسوی ژاک الول (Jacques Ellul) ایده‌ای را مطرح کرد که در عصر حاضر، یعنی در مواجهه با مدل‌های زبانی بزرگ (LLMs) مانند ChatGPT یا Grok، معنایی عمیق‌تر پیدا می‌کند. الول باور داشت تکنولوژی خنثی نیست.او معتقد بود تکنولوژی بی‌صبرانه منتظر نمی‌ماند تا ما تصمیم بگیریم چگونه از آن استفاده کنیم؛ بلکه به دلیل ماهیت خود، که الول آن را «تکنیک» (technique) می‌نامید، به سمت کارایی و بهینه‌سازی بی‌وقفه حرکت می‌کند. به بیان ساده، هنگامی که یک «تکنیک» پا به عرصه وجود می‌گذارد، مستقل از اراده ما تکامل می‌یابد و به تدریج شیوه زندگی، تفکر و حتی ارزش‌های ما را شکل می‌دهد.تصور کنید تکنولوژی نه فقط مجموعه‌ای از ابزار، بلکه فضایی جدید است که زندگی بشر را در بر می‌گیرد. امروزه، مدل‌های زبانی بزرگ (LLMs) دقیقاً همان فضا را ملموس کرده‌اند. آن‌ها نه تنها به ما کمک می‌کنند فکر کنیم، بلکه آنچه را که «تفکر» به نظر می‌رسد، دگرگون می‌سازند. خطر واقعی در اینجا نه بلند و دراماتیک، بلکه آرام، بی‌صدا و یکپارچه است؛ آنقدر آسان که به‌راحتی از دست می‌رود.

منطق پنهان هوش مصنوعی: اگر شدنی است، حتماً انجام می‌شود!

یکی از مهمترین ایده‌های الول، که امروزه می‌تواند مایه نگرانی عمیقی باشد، این است: اگر کاری شدنی باشد، حتماً انجام خواهد شد. به محض اینکه یک قابلیت تکنولوژیک ظهور می‌کند، فارغ از ملاحظات اخلاقی یا نیات اولیه، با سرعتی فزاینده گسترش می‌یابد.هوش مصنوعی مصداق بارز این قانون است. GPT-3 ابتدا یک نوآوری جذاب بود، اما GPT-4 به‌سرعت وارد کلاس‌های درس، دفاتر کار، جلسات درمانی و حتی یادداشت‌برداری‌های شخصی شد. به‌زودی هوش مصنوعی دیگر یک «برنامه» نیست که آن را باز کنید؛ بلکه به بخش جدایی‌ناپذیر و نامرئی زندگی روزمره تبدیل خواهد شد که بدون هیچ چون و چرایی پذیرفته می‌شود.همین حالا، سم آلتمن، مدیرعامل OpenAI، و جانی آیو، طراح مشهور اپل، در حال کار بر روی پروژه «گام بعدی» هستند که هدف آن تثبیت هوش مصنوعی به عنوان همان تکنولوژی پس‌زمینه‌ای است که الول از آن به عنوان «تکنیک» یاد می‌کرد.مدل‌های زبان بزرگ برای بهینه‌سازی همخوانی، ارتباط و کارایی طراحی شده‌اند. اما همین منطق آماری، به‌آرامی تعیین می‌کند چه چیزی را ببینیم، چگونه سؤالات خود را مطرح کنیم و حتی چه چیزی را «عادی» تلقی کنیم.الول باور داشت تکنولوژی فضایی برای انتخاب واقعی را محدود می‌کند. این محدودیت نه با مهار آشکار آزادی، بلکه با آسان کردن و بی‌دردسر ساختن مسیرهای خاص انجام می‌شود.
​​​​​​​
آیا شما نیز در دام تفکر ماشینی افتاده‌اید؟
الول هشدار داد که «تکنیک» نه تنها افراد، بلکه کل فرهنگ‌ها را بازسازی می‌کند. مدل‌های زبان بزرگ نمونه‌های واضحی از این فرآیند هستند. برای فهم بهتر این موضوع، از خودتان این چهار سؤال کلیدی را بپرسید:آیا اخیراً با پیچیدگی‌ها دست‌و‌پنجه نرم کرده‌اید؟یا به جای نشستن با ابهام یک کتاب، یک ایده یا یک مشکل پیچیده، آن را با یک خلاصه‌ی سریع تولید شده توسط هوش مصنوعی هموار کرده‌اید؟ هوش مصنوعی برای «روان‌سازی» اطلاعات به کار می‌رود و در نتیجه، ممکن است ما را از زحمت شیرین تحلیل و غور در مسائل پیچیده محروم کند. مثلاً، به جای مطالعه یک مقاله پژوهشی طولانی و پیچیده درباره تغییرات آب و هوایی، اگر تنها به خلاصه‌ی تولید شده توسط هوش مصنوعی اکتفا کنیم، از دست‌و‌پنجه نرم کردن با داده‌های خام، تناقضات احتمالی، و استدلال‌های تفصیلی که منجر به درک عمیق‌تر می‌شود، محروم می‌شویم.آیا صدای خود را از دست می‌دهید؟اگر هوش مصنوعی گزارش‌ها، ایمیل‌ها یا ارائه‌های شما را تنظیم می‌کند، آیا هنوز همان اعتماد به نفس را در بیان ایده‌ها بدون کمک آن احساس می‌کنید؟ آیا «عضلات» نوشتن و استدلال شما در حال تحلیل رفتن نیستند؟ مثال بارز آن، نوشتن یک ایمیل کاری است. در گذشته، ما ساعت‌ها وقت صرف می‌کردیم تا لحن مناسب، کلمات دقیق و ساختار منطقی را برای پیام خود پیدا کنیم. اکنون، با یک درخواست ساده، هوش مصنوعی این کار را انجام می‌دهد. در کوتاه‌مدت، این به افزایش بهره‌وری منجر می‌شود، اما در بلندمدت، توانایی ما در تولید محتوای اصیل و بازتاب‌دهنده شخصیت ما کاهش می‌یابد.

آیا بیشتر پاسخ‌های «امن» را می‌شنوید؟هوش مصنوعی بر روی مجموعه‌داده‌های عظیم اما سوگیرانه آموزش دیده است. آیا متوجه شده‌اید که پاسخ‌های آن اغلب دیدگاه‌های رایج و غالب را تقویت می‌کنند و همه چیز را بیش از حد «گرد» و «قابل قبول» جلوه می‌دهند؟ برای مثال، اگر از یک هوش مصنوعی در مورد یک موضوع حساس سیاسی یا اجتماعی سؤال کنید، احتمالاً با پاسخی مواجه خواهید شد که تا حد امکان خنثی و بدون اظهارنظر صریح است، حتی اگر نظرات متناقض و مهمی در آن زمینه وجود داشته باشد. این امر ممکن است منجر به همگن‌سازی افکار و کمرنگ شدن دیدگاه‌های متفاوت شود.آیا احساس می‌کنید چیزی را می‌دانید، بدون اینکه واقعاً آن را بدانید؟تسلط هوش مصنوعی می‌تواند حس درک را به شما القا کند، حتی بدون زحمت آهسته یادگیری واقعی. این بزرگترین ترفند تکنولوژی است: کنترل خود را بسیار طبیعی جلوه می‌دهد. تصور کنید دانشجویی برای امتحان خود از هوش مصنوعی می‌خواهد تا مفاهیم پیچیده فیزیک کوانتوم را توضیح دهد. هوش مصنوعی خلاصه‌ای بسیار روان و جامع ارائه می‌دهد. دانشجو احساس می‌کند که مطلب را فهمیده است، اما در واقع، او فرآیند حل مسئله، استدلال منطقی و تفکر انتقادی که برای درک واقعی این مفاهیم لازم است را تجربه نکرده است. در نتیجه، دانش او سطحی و وابسته به ابزار خواهد بود و قادر به نوآوری یا تحلیل عمیق نخواهد بود.
اگر پاسخ به چند مورد از این سؤالات به شما نزدیک بود، تنها نیستید. این دقیقاً همان جایی است که این تغییر آغاز می‌شود و این فرآیند به طبیعی‌ترین شکل ممکن احساس می‌شود.اما خطر فراتر از ذهن‌های فردی است. همانطور که مقاله The New Atlantis اشاره کرده است، «تکنیک» خود زبان را استانداردسازی می‌کند و در این راه، اشکال متنوع بیان را به یک سبک همگن (شاید حتی ملایم و بی‌روح) و بهینه‌سازی شده تقلیل می‌دهد. هنگامی که مدل‌های زبان بزرگ ایمیل‌ها، اخبار و حتی شعر ما را می‌نویسند، آن‌ها چیزی فراتر از بازتاب فرهنگ ما هستند؛ آن‌ها به‌آرامی فرهنگ را در «زبان آماری ماشین» بازتعریف می‌کنند. شاید این همان «روح در ماشین» جدیدی است که باید نگران آن باشیم.

مقاومت آگاهانه در برابر جریان تکنیک
الول معتقد بود که نمی‌توانیم حرکت تکنولوژیکی را متوقف کنیم. «جریان تکنیک» را نمی‌توان متوقف کرد، اما می‌توان از طریق اعمال کوچک آگاهی در برابر آن مقاومت کرد.در مورد هوش مصنوعی، شاید این مقاومت بدون نیت قبلی آغاز شود. این به معنای استفاده از آن برای برانگیختن تفکر عمیق‌تر است، نه اینکه اجازه دهیم تماماً جایگزین تلاش فکری ما شود. به معنای زیر سؤال بردن پاسخ‌های آن، اعتبارسنجی مجدد آن‌ها و حفظ کنجکاوی است، به‌ویژه زمانی که خروجی آن بیش از حد صیقلی و کامل به نظر می‌رسد.به عبارت دیگر، ما باید آگاهانه اصطکاک شناختی را در آغوش بگیریم. همان چالش‌ها و موانعی که ذهن ما را به کار می‌اندازند، به آن رشد می‌بخشند و در نهایت، ماهیت انسانی ما را تعریف می‌کنند.خطر واقعی این نیست که هوش مصنوعی جایگزین تفکر انسانی شود. خطر این است که به‌آرامی ماهیت تفکر را بازتعریف کند، تا جایی که دیگر نتوانیم تفاوت را تشخیص دهیم.