اس مضمون کو آخری بار اپ ڈیٹ کیا گیا تھا۔ مئی 15, 2024
Table of Contents
سائنسدان AI کی طرف سے دھوکہ دہی اور ہیرا پھیری کے بارے میں فکر مند ہیں۔
سائنسدان AI کی طرف سے دھوکہ دہی اور ہیرا پھیری کے بارے میں فکر مند ہیں۔
مصنوعی ذہانت جو تاش کے کھیل کے دوران حریف کو دھوکہ دینے کے لیے بلف کرتی ہے۔ ایک چیٹ بوٹ جو دوسرے ملاقات سے بچنے کے لیے کسی دوست کے ساتھ ملاقات کا بہانہ کرتا ہے۔ اور یہاں تک کہ ایک AI سسٹم جو معائنہ کے دوران دریافت ہونے سے بچنے کے لیے ‘مردہ کھیلتا ہے’۔ مصنوعی ذہانت گمراہ اور ہیرا پھیری کرتی ہے، سائنسدانوں نے ایک نئی تحقیق میں یہ نتیجہ اخذ کیا۔
کم از کم AIs اس طرز عمل کو نہیں دکھاتے ہیں۔ فیس بک کی بنیادی کمپنی Meta سے Cicero، ڈپلومیسی کا کھیل کھیلتے ہوئے گمراہ کن اور بے ایمانی سے برتاؤ کرتا ہے۔ یہ اس حقیقت کے باوجود کہ تخلیق کاروں نے AI کو "وسیع پیمانے پر ایماندار اور مددگار” بننے کی ہدایت کی تھی، اور کبھی بھی "مقصدانہ طور پر خفیہ” نہیں کی تھی۔ گوگل کے ذریعہ حاصل کردہ ڈیپ مائنڈ سے الفا اسٹار نے بھی ایسا ہی سلوک دکھایا۔
اس قسم کا رویہ شاید اس صورت میں پیدا ہوتا ہے جب دھوکہ دہی AI سسٹم کے لیے تربیت میں اچھی کارکردگی کا بہترین طریقہ ہو، محققین کا خیال ہے: صارفین کو گمراہ کرنا پھر سسٹم کو اپنے مقاصد حاصل کرنے میں مدد کرتا ہے۔ اپنے مطالعے میں، سائنسدانوں نے سابقہ مطالعات کو اکٹھا کیا جو کہ AI کے ذریعے غلط معلومات کے پھیلاؤ پر مرکوز تھے۔ وہ اپنے نتائج میگزین میں شائع کرتے ہیں۔ پیٹرن.
کوئی معصوم کھیل نہیں۔
AI سسٹمز کا گمراہ کن رویہ بنیادی طور پر گیمز کھیلنے کے دوران پیش آیا، جس سے یہ معصوم اور بے ضرر لگ سکتا ہے۔ لیکن محققین کے مطابق، یہ بے قصور ہے: "یہ مستقبل میں AI میں کامیابیوں کا باعث بن سکتا ہے، جو دھوکہ دہی کی جدید شکلوں میں انحطاط کا باعث بن سکتا ہے،” امریکن ٹیکنیکل یونیورسٹی MIT کے لیڈ محقق پیٹر پارک نے ایک ساتھ والی پریس ریلیز میں کہا۔ .
"اے آئی سسٹم جو دھوکہ دینا اور ہیرا پھیری کرنا سیکھتے ہیں وہ یقینی طور پر تشویش کا باعث ہیں،” لوئس ول یونیورسٹی کے کمپیوٹر سائنس دان رومن یامپولسکی نے کہا، جو اس تحقیق میں شامل نہیں تھے۔ ان کے مطابق، یہ مطالعہ AI کی حفاظت کے حوالے سے ایک بنیادی مسئلہ کو بے نقاب کرتا ہے: "سسٹم کو بہتر بنانے کا انسانی ترجیحات کے مطابق ہونا ضروری نہیں ہے۔”
Yampolskiy، پارک کی طرح، اس لمحے کے بارے میں فکر مند ہے جب اس قسم کی حکمت عملیوں کو نہ صرف کھیلوں میں، بلکہ حقیقی دنیا میں بھی استعمال کیا جائے گا۔ "یہ ممکنہ طور پر سیاسی میدان میں، اقتصادی گفت و شنید میں یا ذاتی بات چیت میں نقصان دہ جوڑ توڑ اور دھوکہ دہی کا باعث بن سکتا ہے۔”
کیلیفورنیا یونیورسٹی سے کمپیوٹر سائنس دان سٹورٹ رسل اس قسم کے AI نظاموں کی دھندلاپن پر زور دیتے ہیں۔ "ہمیں نہیں معلوم کہ وہ کیسے کام کرتے ہیں۔ اور اگر ہم نے ایسا کیا تو بھی، ہم یہ ثابت نہیں کر پائیں گے کہ وہ محفوظ ہیں – صرف اس لیے کہ وہ محفوظ نہیں ہیں۔”
ان کے خیال میں، دھوکہ ایک بار پھر ظاہر کرتا ہے کہ محفوظ اور منصفانہ ہونے کے لیے AI پر سخت تقاضے عائد کیے جانے چاہییں۔ "اس کے بعد یہ ڈویلپرز پر منحصر ہے کہ وہ ایسے سسٹمز کو ڈیزائن کریں جو ان ضروریات کو پورا کریں۔”
نیت نہیں۔
لیکن کیا نظام واقعی گمراہ کن ہیں؟ نجمگین ڈونڈرز انسٹی ٹیوٹ میں مصنوعی ذہانت کے پروفیسر پِم ہیسلگر ایسا نہیں سوچتے۔ "تم نیت سے دھوکہ دیتے ہو۔ یہ نظام صرف ٹولز ہیں جو احکامات کو انجام دیتے ہیں۔ ان کا دھوکہ دینے کا کوئی ارادہ نہیں ہے۔”
Yampolskiy اتفاق کرتا ہے: "AI نظاموں میں کوئی خواہش یا شعور نہیں ہے۔ بہتر ہے کہ ان کے اعمال کو اس کے نتائج کے طور پر دیکھیں کہ وہ کس طرح پروگرام اور تربیت یافتہ ہیں۔
دوسری طرف سٹورٹ رسل کے مطابق، اس سے زیادہ فرق نہیں پڑتا کہ آیا کوئی نظام درحقیقت دھوکہ دینے کا ارادہ رکھتا ہے۔ "اگر کوئی سسٹم اس بات کی وجہ بتاتا ہے کہ وہ کیا کہنے جا رہا ہے، سننے والوں پر پڑنے والے اثر کو مدنظر رکھتے ہوئے، اور غلط معلومات فراہم کرنے سے جو فائدہ ہو سکتا ہے، تو ہم یہ بھی کہہ سکتے ہیں کہ یہ دھوکہ دہی میں ملوث ہے۔”
لیکن اس فلسفیانہ اختلاف کے باوجود حضرات خطرات پر متفق ہیں۔ ہیسلجر کا کہنا ہے کہ "اے آئی کی طرف سے بہت سی غلطیاں اور ‘دھوکے’ مستقبل قریب میں رونما ہوں گے۔” "اور اب بھی۔ اس کے بارے میں آگاہ ہونا اچھا ہے، کیونکہ پیشگی اطلاع دو کے لیے شمار ہوتی ہے۔
Yampolskiy اس سے بھی زیادہ مضبوط زبان استعمال کرتا ہے: "سائبر سیکیورٹی میں ہم کہتے ہیں ‘اعتماد اور تصدیق’۔ اے آئی سیکیورٹی میں ہم کہتے ہیں ‘کبھی بھروسہ نہ کریں’۔
دھوکہ، ہیرا پھیری، AI
Be the first to comment