كيف وجد الإنسان خدعة لجعل الذكاء الاصطناعي يعطيك إجابات ليس من المفترض أن يقدمها

إذا قمت ببنائها، سيحاول الناس كسرها. في بعض الأحيان حتى الناس مبنى هذه هي الأشياء التي تكسره. هذه هي حالة Anthropic وأحدث أبحاثها التي توضح وجود ثغرة مثيرة للاهتمام في تكنولوجيا LLM الحالية. بشكل أو بآخر، إذا التزمت بسؤال واحد، يمكنك كسر الحواجز وينتهي بك الأمر بأنماط لغوية كبيرة تخبرك بأشياء لم يتم تصميمها للقيام بها. مثل كيفية صنع قنبلة.

بالطبع، نظرًا للتقدم في تكنولوجيا الذكاء الاصطناعي مفتوحة المصدر، يمكنك إنشاء ماجستير إدارة الأعمال الخاص بك محليًا وسؤاله عما تريده، ولكن بالنسبة للمحتوى الذي يستهدف عامة الناس، فهو سؤال يستحق التفكير فيه. الشيء الممتع في الذكاء الاصطناعي اليوم هو الوتيرة السريعة التي يتقدم بها وكيف ننجح – أو نفشل – كنوع في فهم أفضل لما نبنيه.

إذا سمحت لي بهذه الفكرة، أتساءل عما إذا كنا سنرى المزيد من الأسئلة والمشكلات من النوع الذي وصفه Anthropic حيث أن ماجستير إدارة الأعمال والأنواع الجديدة الأخرى من نماذج الذكاء الاصطناعي تصبح أكثر ذكاءً وأكبر. وهو ما قد أكرره لنفسي. لكن كلما اقتربنا من الذكاء الاصطناعي الأكثر عمومية، كلما بدا وكأنه كيان مفكر، وليس جهاز كمبيوتر يمكننا برمجته، أليس كذلك؟ إذا كان الأمر كذلك، فهل سنواجه صعوبة أكبر في حل الحالات المتطورة إلى الحد الذي يصبح فيه هذا العمل غير ممكن؟ على أية حال، دعونا نتحدث عما شاركته الأنثروبيك مؤخرًا.