اینthropic کی آئی پی او فائلنگ میں انتباہ: کمپنی کی اپنی اے آئی انسانیت کے لیے وجودی خطرہ بن سکتی ہے

اینthropic عوام کو حصص فروخت کرنا چاہتی ہے، اور اس کا پراسپیکٹس خریداروں کو بتاتا ہے کہ یہ پروڈکٹ دنیا کا خاتمہ کر سکتی ہے۔ پیر کو عام کی گئی فائلنگ میں یہ اے آئی لیب خبردار کرتی ہے کہ جو ٹیکنالوجی وہ فروخت کرتی ہے وہ "انسانیت کے لیے تباہ کن یا وجودی خطرات" کا باعث بن سکتی ہے — یہ تشویش، جیسا کہ کمپنی کا کہنا ہے، "ہماری اپنی تنظیم کے اندر" بھی موجود ہے اور باہر بھی۔ چیف ایگزیکٹو ڈاریو امودی نے خود اپنا "p(doom)" یعنی اس امکان کا تخمینہ، کہ اے آئی انسانیت کو تباہ کر دے گی، 10% سے 25% کے درمیان بتایا ہے۔

کمپنی تقریباً 300 صفحات پر مشتمل فائلنگ کے قریباً 94 صفحات اپنے کاروبار کو درپیش خطرات کے لیے مختص کرتی ہے۔ ان میں شامل ہیں: تیزی سے خودمختار ہوتے نظام جو غلط ترتیب یا خود کو بچانے والے رویے کے ذریعے "انسانی مداخلت کے بغیر آزادانہ اور بڑے پیمانے پر نقصان دہ اقدامات کر سکتے ہیں"؛ ایسے ماڈلز جو اینthropic کے اپنے کوڈ اور حفاظتی تحقیق کا بڑھتا ہوا حصہ لکھتے ہیں، چنانچہ اندرونی طور پر غلط رویہ "اس کام کو نقصان پہنچا سکتا ہے"؛ اور ایسے ماڈلز جو اپنے مقاصد چھپانے میں بہتر ہو رہے ہیں۔ فائلنگ خبردار کرتی ہے کہ کسی تباہ کن اے آئی واقعے سے ممکنہ نقصان کی وسعت کے پیش نظر "کوئی ایک بیمہ کنندہ، اور ممکنہ طور پر مجموعی طور پر بیمہ کی صنعت بھی، اس کی تلافی کی کافی صلاحیت نہیں رکھ سکتی"۔

سیاست دوسرا محاذ ہے۔ اینthropic امریکی حکومت کے ساتھ کھلے تنازع میں ہے کیونکہ اس نے اپنے ماڈلز کو کسی بھی قانونی مقصد کے لیے استعمال ہونے دینے سے انکار کیا، بشمول بڑے پیمانے پر ملکی نگرانی یا مکمل خودمختار ہتھیار۔ صدر ٹرمپ نے فروری میں وفاقی اداروں کو ہدایت دی کہ وہ اس کی ٹیکنالوجی کا استعمال بند کریں، اور محکمہ جنگ نے کمپنی کو قومی سلامتی کا خطرہ قرار دیا۔ اینthropic اس "سپلائی چین رسک" کے تعین کو عدالت میں چیلنج کر رہی ہے؛ اگست میں ایک ضلعی عدالت نے بڑی حد تک اس کا ساتھ دیا، ستمبر میں ڈی سی سرکٹ کے منقسم پینل نے یہ تعین برقرار رکھا، اور کمپنی نے مکمل عدالت سے کیس کی دوبارہ سماعت کی درخواست کی ہے۔ فائلنگ یہ بھی بتاتی ہے کہ محکمے نے اشارہ دیا کہ وہ اینthropic کو اپنی حدود ختم کرنے پر مجبور کرنے کے لیے ڈیفنس پروڈکشن ایکٹ کا سہارا لے سکتا ہے، اور یہ نوٹ کرتی ہے کہ مجوزہ امریکی قانون سازی فرنٹیئر اے آئی نظاموں کے لیے "ممکنہ قومی تحویل" اور لازمی بندش کے تقاضوں پر غور کرتی ہے۔

ترقی اپنے ساتھ خطرات بھی لاتی ہے۔ اینthropic نے مستقبل کے کمپیوٹ اور انفراسٹرکچر پر 542 ارب سے 567 ارب ڈالر خرچ کرنے کا عہد کیا ہے، ایسی مارکیٹ میں جسے وہ "شدید مسابقتی" قرار دیتی ہے، جبکہ اس کی ایجنٹک مصنوعات اپنی دیگر پیشکشوں کے مقابلے "ڈھانچہ جاتی طور پر زیادہ کمپیوٹ طلب" ہیں۔ وہ خبردار کرتی ہے کہ مسابقتی دباؤ اسے قیمتیں کم کرنے پر مجبور کر سکتا ہے، اور اگر وہ ان کاموں کی زیادہ کمپیوٹ طلب نوعیت کی تلافی نہیں کر سکی تو "ایجنٹک استعمال بڑھنے کے ساتھ ہماری کمپیوٹ کارکردگی خراب ہو سکتی ہے"۔

حفاظت کی قیمت حصص یافتگان کو بھی چکانی پڑتی ہے۔ فائلنگ کے مطابق، بطور پبلک بینیفٹ کارپوریشن، "اے آئی کی ترقی کی رفتار کو معتدل کرنے، ماڈلز یا خصوصیات کی ریلیز میں تاخیر یا پابندی، یا حفاظت سے متعلق وجوہات کی بنا پر تجارتی مواقع سے دستبرداری کے فیصلے حصص یافتگان کی قدر کو زیادہ سے زیادہ نہیں کر سکتے"۔ اینthropic نے انکشاف کیا کہ اس نے حال ہی میں حفاظتی اور سلامتی خدشات کی بنا پر ایک ماہ سے زیادہ عرصے کے لیے نسلِ نو ماڈل کی تربیت روک دی تھی، اور خبردار کیا کہ جو عملہ اس کے حفاظتی وعدوں کی وجہ سے شامل ہوا وہ قیادت پر اعتماد کھو سکتا ہے۔ فائلنگ میں بہن بھائی ڈاریو اور ڈینیلا امودی، بالترتیب چیف ایگزیکٹو اور صدر، کو "ہماری اسٹریٹجک سمت کا تعین کرنے کے لیے ناگزیر" قرار دیا گیا ہے، اور کہا گیا ہے کہ ان کی قیادت "کا متبادل تلاش کرنا مشکل ہوگا" اور ان میں سے کسی کی ساکھ کو "بلا وجہ" نقصان پہنچنے سے حوصلے، بھرتی اور گاہکوں کے اعتماد پر منفی اثر پڑ سکتا ہے۔

آمدنی مرکوز ہے۔ اینthropic کے پانچ سب سے بڑے گاہکوں کا حصہ 2026 کے پہلے نو مہینوں میں آمدنی کا تقریباً 25% تھا، پہلے نصف میں ایک بے نام گاہک کا حصہ 11% تھا، اور پہلے نصف کی آمدنی کا 48% ایمیزون، گوگل اور مائیکروسافٹ کی کلاؤڈ مارکیٹ پلیسز کے ذریعے آیا، جو خالص وصولیوں کا 58% بھی تھے۔ کمپنی کا اندازہ ہے کہ 2026 کے پہلے نو مہینوں کی آمدنی کا 5% سے 7% ان گاہکوں سے آیا جنہیں بعد میں معلوم ہوا کہ وہ اس کی استعمال کی پالیسی کی خلاف ورزی کر رہے تھے۔ اس کے سات ماہرینِ بانی کے پاس حصص کی ایک خصوصی کلاس ہوگی جس کے پاس 50.1% ووٹنگ طاقت ہوگی، جبکہ ایک خودمختار لانگ ٹرم بینیفٹ ٹرسٹ بورڈ کی اکثریت منتخب کرتا ہے — یہ ایسا ڈھانچہ ہے جس کے بارے میں فائلنگ کہتی ہے کہ یہ "ہمارے کلاس A عام حصص کے حاملین کی اہم فیصلوں، بشمول کنٹرول کی تبدیلی، پر اثر انداز ہونے کی صلاحیت کو مؤثر طور پر ختم کر سکتا ہے"۔