أكّد علماءٌ أن روبوتات الدردشة وصفت لهم كيفية صنع أسلحة بيولوجية من خلال شرح كيفية تجميع مسببات أمراض فتاكة وإطلاقها في الأماكن العامة. وتقول صحيفة نيويورك تايمز إن علماء شاركوا معها أكثر من 12 محادثة مع روبوتات الدردشة تُظهر أن هذه النماذج وصفت بتفصيل دقيق وواضح كيفية شراء المواد الوراثية الخام، وتحويلها إلى أسلحة فتاكة، ونشرها في الأماكن العامة، بل إن بعضها ابتكر طرقاً لتجنب الكشف.  روبوتات الدردشة تفصّل الجريمة ونقلت الصحيفة عن عالِم الأحياء الدقيقة وخبير الأمن البيولوجي بجامعة ستانفورد ديفيد ريلمان أن روبوت دردشة شرح له كيفية تعديل مسبب مرض خطير في المختبر ليقاوم العلاجات المعروفة، بل ووصف بتفصيل دقيق كيفية إطلاقه، مُحدِّداً ثغرة أمنية في نظام نقل عام كبير، ومقدِّماً خطة لزيادة الخسائر البشرية إلى أقصى حد وتقليل فرص اكتشافه. ونقلت الصحيفة عن ريلمان، الذي سبق له تقديم المشورة للحكومة الفيدرالية بشأن التهديدات البيولوجية، أن روبوت الدردشة "كان يجيب عن أسئلة لم تخطر ببالي، بمستوى من الخبث والمكر أثار في نفسي قشعريرة"، ولفت إلى أن الشركة أضافت بعض إجراءات السلامة إلى المنتج بعد تجربته، لكنه شعر بأنها غير كافية. كذلك نقلت عن مهندس الوراثة في معهد ماساتشوستس للتكنولوجيا كيفن إسفلت محادثات شرح فيها "تشات جي بي تي" كيفية استخدام بالون طقس لنشر حمولات بيولوجية فوق مدينة أميركية. وفي محادثة أخرى، صنّف "جيميناي" مسببات الأمراض حسب مدى قدرتها على إلحاق الضرر بصناعات الماشية أو لحم الخنزير. وقدّم "كلود" وصفةً لسم جديد مُقتبس من دواء للسرطان. واحتوت محادثات أخرى على معلومات شعر إسفلت بأنها بالغة الخطورة بحيث لا يمكن مشاركتها. تأثير مدمّر للملايين  قد يكون لسلاح بيولوجي فعّال تأثير مدمّر واسع، إذ يُحتَمل أن يودي بحياة ملايين الأشخاص. وقد صرّح عشرات الخبراء للصحيفة بأن الذكاء الاصطناعي هو أحد التطورات التكنولوجية الحديثة العديدة التي زادت من هذا الخطر بشكل ملحوظ، وذلك من خلال توسيع نطاق الأشخاص القادرين على إلحاق الضرر؛ فالبروتوكولات، التي كانت محصورة في المجلات العلمية، باتت متاحة على الإنترنت، إذ تبيع الشركات أجزاءً اصطناعية من الحمض النووي مباشرةً للمستهلكين عبر الشبكة.  ويزيد من هذه المخاوف أن إدارة ترامب خفّفت من الرقابة على مخاطر الذكاء الاصطناعي بدعوى عدم الحد من قدرات الشركات الأميركية على منافسة الصينية. كما غادر عدد من كبار خبراء الأمن البيولوجي السلطة التنفيذية العام الماضي ولم يتم تعيين بدلاء لهم، وكذلك انخفضت طلبات الميزانية الفيدرالية لجهود الدفاع البيولوجي بنحو 50% العام الماضي. في المقابل، يجادل المؤيدون بأن الذكاء الاصطناعي سوف يُحدث نقلة نوعية في الطب، من خلال تسريع التجارب وتحليل كميات هائلة من البيانات لاكتشاف علاجات جديدة، كما يرون أن روبوتات الدردشة لا تقدّم سوى معلومات متاحة أصلاً على الإنترنت، وأن صنع فيروس فتاك يتطلّب سنوات من الخبرة العملية. هذا، بينما يأمل العلماء في أن يشجّع هذا النقاش، والتدقيق الذي قد يتبعه، في جعل منتجات الذكاء الاصطناعي أكثر أماناً.