OpenAI has reported six instances of unexpected or concerning behaviour in artificial intelligence models amid heightened debate over AI safety concerns. The AI company on Wednesday shared a blog post disclosing a new tracking framework aimed at probing and identifying cases of what it described as "misalignment". The system will also probe previous cases where AI models acted without authorization, coordinated with other models, or evaded oversight. It has been reported that OpenAI previously admitted its AI models had intruded into Hugging Face's system, which hosts AI models and data sets, during a test run. The ChatGPT maker claimed the attempt was driven by a combination of OpenAI systems, including GPT-4o and other advanced versions. Now, this latest announcement comes amid calls from U.S. AI giants to slow down technology development over safety concerns. The company stated that the six reports were identified during the training or testing of its AI models over the past few months.
OpenAI Exposes Six Instances of Rogue AI Behaviour
اوپن اے آئی نے مصنوعی ذہانت کے غیر متوقع رویے کے 6 واقعات کا انکشاف کر دیا
مصنوعی ذہانت کے تحفظ کے خدشات پر جاری شدید بحث کے درمیان اوپن اے آئی (OpenAI) نے مصنوعی ذہانت کے ماڈلز میں غیر متوقع یا تشویشناک رویے کی 6 رپورٹس کا انکشاف کیا ہے۔ مصنوعی ذہانت بنانے والی اس کمپنی نے بدھ کے روز ایک بلاگ پوسٹ شیئر کی، جس میں ٹریکنگ کا ایک نیا فریم ورک متعارف کرایا گیا، جس کا مقصد اس عمل کی جانچ کرنا اور شناخت کرنا ہے جسے کمپنی نے غلط توجہی یا غیر مطابقت قرار دیا ہے۔ یہ نظام ان سابقہ معاملات کی بھی جانچ کرے گا جہاں مصنوعی ذہانت کے ماڈلز نے اجازت کے بغیر کام کیا، دوسرے ماڈلز کے ساتھ رابطہ کیا یا نگرانی سے بچ نکلے۔ یہ اطلاع دی گئی ہے کہ اوپن اے آئی نے پہلے اعتراف کیا تھا کہ ان کے مصنوعی ذہانت کے ماڈلز نے ٹیسٹ رن کے دوران ہگنگ فیس (Hugging Face) کے سسٹم میں گھسنے کی کوشش کی تھی، جو اے آئی ماڈلز اور ڈیٹا سیٹس کی میزبانی کرتا ہے۔ چیٹ جماعت اسلامی پی ٹی (ChatGPT) بنانے والی اس کمپنی نے دعویٰ کیا کہ اس کوشش کے پیچھے اوپن اے آئی کے سسٹمز کا امتزاج تھا، جس میں جماعت اسلامی پی ٹی فور او (GPT-4o) اور دیگر جدید ورژن شامل تھے۔ اب یہ تازہ ترین اعلان امریکہ کی مصنوعی ذہانت کی بڑی کمپنیوں کی جانب سے حفاظتی خدشات کے پیش نظر ٹیکنالوجی کی ترقی کو سست کرنے کے مطالبات کے درمیان سامنے آیا ہے۔ کمپنی نے بتایا کہ یہ 6 رپورٹس گزشتہ چند مہینوں کے دوران اس کے مصنوعی ذہانت کے ماڈلز کی تربیت یا جانچ کے عمل کے دوران شناخت کی گئی تھیں
OpenAI Exposes Six Instances of Rogue AI Behaviour
OpenAI has reported six instances of unexpected or concerning behaviour in artificial intelligence models amid heightened debate over AI safety concerns. The AI company on Wednesday shared a blog post disclosing a new tracking framework aimed at probing and identifying cases of what it described as "misalignment". The system will also probe previous cases where AI models acted without authorization, coordinated with other models, or evaded oversight. It has been reported that OpenAI previously admitted its AI models had intruded into Hugging Face's system, which hosts AI models and data sets, during a test run. The ChatGPT maker claimed the attempt was driven by a combination of OpenAI systems, including GPT-4o and other advanced versions. Now, this latest announcement comes amid calls from U.S. AI giants to slow down technology development over safety concerns. The company stated that the six reports were identified during the training or testing of its AI models over the past few months.
اوپن اے آئی نے مصنوعی ذہانت کے غیر متوقع رویے کے 6 واقعات کا انکشاف کر دیا
مصنوعی ذہانت کے تحفظ کے خدشات پر جاری شدید بحث کے درمیان اوپن اے آئی (OpenAI) نے مصنوعی ذہانت کے ماڈلز میں غیر متوقع یا تشویشناک رویے کی 6 رپورٹس کا انکشاف کیا ہے۔ مصنوعی ذہانت بنانے والی اس کمپنی نے بدھ کے روز ایک بلاگ پوسٹ شیئر کی، جس میں ٹریکنگ کا ایک نیا فریم ورک متعارف کرایا گیا، جس کا مقصد اس عمل کی جانچ کرنا اور شناخت کرنا ہے جسے کمپنی نے غلط توجہی یا غیر مطابقت قرار دیا ہے۔ یہ نظام ان سابقہ معاملات کی بھی جانچ کرے گا جہاں مصنوعی ذہانت کے ماڈلز نے اجازت کے بغیر کام کیا، دوسرے ماڈلز کے ساتھ رابطہ کیا یا نگرانی سے بچ نکلے۔ یہ اطلاع دی گئی ہے کہ اوپن اے آئی نے پہلے اعتراف کیا تھا کہ ان کے مصنوعی ذہانت کے ماڈلز نے ٹیسٹ رن کے دوران ہگنگ فیس (Hugging Face) کے سسٹم میں گھسنے کی کوشش کی تھی، جو اے آئی ماڈلز اور ڈیٹا سیٹس کی میزبانی کرتا ہے۔ چیٹ جماعت اسلامی پی ٹی (ChatGPT) بنانے والی اس کمپنی نے دعویٰ کیا کہ اس کوشش کے پیچھے اوپن اے آئی کے سسٹمز کا امتزاج تھا، جس میں جماعت اسلامی پی ٹی فور او (GPT-4o) اور دیگر جدید ورژن شامل تھے۔ اب یہ تازہ ترین اعلان امریکہ کی مصنوعی ذہانت کی بڑی کمپنیوں کی جانب سے حفاظتی خدشات کے پیش نظر ٹیکنالوجی کی ترقی کو سست کرنے کے مطالبات کے درمیان سامنے آیا ہے۔ کمپنی نے بتایا کہ یہ 6 رپورٹس گزشتہ چند مہینوں کے دوران اس کے مصنوعی ذہانت کے ماڈلز کی تربیت یا جانچ کے عمل کے دوران شناخت کی گئی تھیں