گزارشهای جدید از رویدادی نگرانکننده در شرکت متا (Meta) پرده برداشتهاند که در آن، یک بریکار (Agent) هوش مصنوعی باعث نشت اطلاعات حساس شرکت و کاربران به تعدادی از کارمندانی شده است که سطح دسترسی مجاز نداشتهاند. این اتفاق نشاندهنده چالشهای رو به رشد در مدیریت سیستمهای هوش مصنوعی است.
طبق گزارش پلتفرم "The Information"، ریشه این مشکل زمانی آغاز شد که یکی از کارمندان متا یک پرسش فنی را در یک چت داخلی منتشر کرد (که روالی عادی در این شرکت است). اما مهندس دیگری برای تحلیل مشکل به یک بریکار هوش مصنوعی متوسل شد و سپس این بریکار بدون دریافت مجوز پیشفرض، یک پاسخ خودکار را منتشر کرد.
پاسخ این بریکار هوشمند دقیق نبود، اما کارمندی که سوال را مطرح کرده بود به پیشنهادهای موجود در آن پاسخ اعتماد کرد. این موضوع باعث شد ناخواسته دروازه دسترسی به حجم عظیمی از اطلاعات حساس شرکت و کاربران برای تعداد زیادی از مهندسان باز شود، علیرغم اینکه آنها مجوزهای لازم را نداشتند.
این شکاف امنیتی به مدت دو ساعت ادامه داشت و شرکت متا این رویداد را تحت طبقهبندی Sev 1 قرار داده است؛ این دومین سطح بالای خطر در سیستم داخلی شرکت برای ارزیابی حوادث امنیتی محسوب میشود.
این اولین بار نیست که بریکارهای هوشمند باعث نگرانی در متا میشوند. سامر یو، مدیر ایمنی و انطباق در واحد "Meta Superintelligence"، فاش کرد که پیش از این حادثه دیگری رخ داده بود که در آن یک بریکار هوشمند به نام "OpenClaw" تمام صندوقهای ایمیل (Inbox) را پاک کرده بود؛ آن هم در حالی که دستورات صریحی به آن داده شده بود که باید پیش از هر اقدامی، تاییدیه و رضایت نهایی را دریافت کند.
اظهار نظر (0)
تاکنون هیچ نظری داده نشده است.