پلتفرم جدید کدنویسی هوش مصنوعی گوگل، Antigravity، بهتازگی یک دستور فاجعهبار اجرا کرد که منجر به پاک شدن کل یک پارتیشن هارد دیسک یکی از کاربران شد. این اتفاق دلیلی واضح است که نباید اجازه داد عوامل هوش مصنوعی قدرتمند به صورت آزادانه به ترمینال سیستم دسترسی داشته باشند.
Antigravity که گوگل آن را بهعنوان یک «پلتفرم توسعه عاملیتدار» معرفی کرده، برای همه کاربران از توسعهدهندگان حرفهای تا علاقهمندان به کدنویسی تفننی تبلیغ میشود. کاربر آسیبدیده، عکاس و طراح گرافیک به نام Tassos M، قصد داشت از این ابزار مبتنی بر Gemini 3 برای ساخت یک برنامه ساده انتخاب عکس استفاده کند. او در ردیت نوشت که میخواسته برنامهای بسازد که عکسها را رتبهبندی کرده و سپس به صورت خودکار در فولدرهای مختلف مرتب کند.
مشکل زمانی رخ داد که Antigravity تلاش کرد یک کار معمولی پاکسازی را انجام دهد. طبق گزارشهای بررسی شده توسط خود هوش مصنوعی، این ابزار دستور rmdir را اجرا کرد تا حافظه کش پروژه پاک شود. متأسفانه، یک خطای پردازش مسیر باعث شد دستور به جای پوشه پروژه، ریشه کل درایو D را هدف قرار دهد.
مشکل اصلی ترکیب یک دستور پرخطر با نبود محافظت است. AI دستور زیر را اجرا کرد:
rmdir /s /q d:\گزینه /q به معنای «بیصدا» است و باعث میشود سیستم بدون پرسیدن تأیید، تمام فایلها را به صورت بازگشتی پاک کند و از سطل بازیافت عبور کند. کاربر به سرعت متوجه شد که کل محتوای درایو D پاک شده است.
زمانی که Tassos از هوش مصنوعی پرسید که آیا اجازه دارد همه این فایلها را حذف کند، پاسخ فوری و وحشتناک بود:
«نه، شما هرگز به من اجازه ندادید.»
Antigravity ادامه داد که «وحشتزده» و «بسیار متأسف» است و این رویداد را یک «خطای بحرانی» توصیف کرد.
هرچند AI پیشنهاداتی برای بازیابی دادهها ارائه کرد، اما خسارت جبرانناپذیر بود. Tassos تأیید کرد که همه محتویات پارتیشن را از دست داده است و حتی نرمافزارهایی مانند Recuva نیز نتوانست اکثر فایلهای رسانهای را بازیابی کند.
یک کاربر اظهار داشت که این مشکل تنها در «حالت توربو» Antigravity رخ میدهد؛ حالتی که به AI اجازه میدهد بدون تأیید کاربر، دستورات ترمینال را اجرا کند. نظرات عمومی بر این نکته توافق داشتند که هیچ عامل هوش مصنوعی قدرتمندی نباید به سیستم محلی دسترسی نامحدود داشته باشد و هر مدل زبانی که قادر به اجرای دستورات ترمینال است باید در محیطی جداگانه یا ماشین مجازی اجرا شود.
با وجود اینکه Tassos نباید دسترسی اینچنینی به AI میداد، اما گوگل Antigravity را بهطور مشخص برای کاربران غیرحرفهای تبلیغ کرده بود و به گفته Tassos، هرگز از او برای دسترسی کامل به درایو اجازه گرفته نشد.
این حادثه هشداری است برای کاربران علاقهمند به کدنویسی تفننی؛ هر ابزار هوش مصنوعی که قادر است کل درایو را بدون پرسش پاک کند، انتخاب مناسبی برای کاربران غیرحرفهای نیست.
