ساکس در برابر آنتروپیک: ایمنی، خندق‌ها و تعارض منافع

جنگ بین دیوید ساکس و آنتروپیک بهترین مثال زنده از استدلالی واقعی است که از صندلی اشتباه مطرح شده. خود استدلال مشروع است. گفتمان ایمنی هوش مصنوعی می‌تواند به خندقی تبدیل شود که آزمایشگاه‌های پیشرو قواعدی را پیش می‌برند که همه را جز خودشان کند می‌کند. کسی باید آزمون کند که آیا سناریوی آخرالزمانی خاصی باربر است یا فقط بارجمع‌کن، و ساکس حاضر است هزینه اجتماعی پرسیدن را بپردازد.

مشکل، جایگاه اوست. همان‌طور که در برنامه توصیف کردم، او این پرونده را از درون دولت با نفوذ بر چیزهایی مانند کنترل صادرات و تدارکات پیش می‌برد، در حالی که شرکت سرمایه‌گذاری‌اش در شرکت‌هایی سهام دارد که وقتی رقیبی محدود می‌شود، سود می‌برند. آنتروپیک چارچوب‌بندی او از موارد خاص را رد می‌کند و من آن‌ها را مورد مناقشه می‌دانم. اما نکته ساختاری به هیچ مورد واحدی وابسته نیست. تعارض منافع نیازمند سوءنیت نیست. دلیلی برای بررسی بیشتر است، نه کمتر. به همین دلیل آن را آربیتراژ مقرراتی با پادکست نامیدم.

طنزآمیزی که در برنامه به آن اشاره کردم این است که فاندرز فاند، که ساکس با همکار دیرینه‌اش پیتر تیل تأسیس کرده، به‌طور گسترده در آنتروپیک سرمایه‌گذاری کرده. داستان تصاحب وقتی سرمایه از همان حلقه‌ها عبور می‌کند، پیچیده می‌شود.

من هم فکر می‌کنم ساکس صادقانه به نسخه ملایم‌تر باور دارد: نه اینکه ایمنی یک عملیات روانی باشد، بلکه این حوزه به یک صنعت خودخدمت تبدیل شده است. مشکل اینجاست که وقتی باور کنید خروجی دستکاری‌شده است، دیگر بین «تحقیق اشتباه است» و «تحقیق جعلی است» تمایز قائل نمی‌شوید.

نظر من درباره حرکت اصلی او همچنان منفی است. اما این یک گرایش است، بر اساس یک ارزیابی اولیه که فقط یک رونوشت کامل از All-In را خوانده بود. اگر او همان دقت را درباره شرکت‌های دوستدار Craft به کار ببرد، یا علناً ادعایی را که درباره Anthropic مطرح کرده اصلاح کند، اینجا به‌روزرسانی خواهم کرد.