OpenAI ออกมาเปิดเผยว่าได้ทำการปิดกลุ่มบัญชี ChatGPT ที่เชื่อมโยงกับปฏิบัติการอิทธิพลของอิหร่าน ซึ่งสร้างเนื้อหาเกี่ยวกับการเลือกตั้งประธานาธิบดีสหรัฐฯ โดยปฏิบัติการนี้สร้างบทความและโพสต์โซเชียลมีเดียที่สร้างโดย AI แม้ว่าจะดูเหมือนว่าจะไม่สามารถเข้าถึงผู้ชมได้มากนัก
นี่ไม่ใช่ครั้งแรกที่ OpenAI แบนบัญชีที่เชื่อมโยงกับผู้กระทำการที่เกี่ยวข้องกับรัฐที่ใช้ ChatGPT ในทางที่ผิด ในเดือนพฤษภาคม บริษัทได้หยุดแคมเปญ 5 แคมเปญที่ใช้ ChatGPT เพื่อควบคุมความคิดเห็นของสาธารณะ
เหตุการณ์เหล่านี้ทำให้นึกถึงกรณีที่ผู้กระทำการของรัฐใช้แพลตฟอร์มโซเชียลมีเดีย เช่น Facebook และ Twitter เพื่อพยายามมีอิทธิพลต่อการเลือกตั้งที่ผ่านมา ตอนนี้ กลุ่มที่คล้ายกัน (หรืออาจเป็นกลุ่มเดียวกัน) กำลังใช้ Generative AI เพื่อท่วมช่องทางโซเชียลด้วยข้อมูลที่ผิด เช่นเดียวกับบริษัทโซเชียลมีเดีย OpenAI ดูเหมือนจะใช้วิธีการแบบตีหัวเข้าบ้าน คือการแบนบัญชีที่เกี่ยวข้องกับความพยายามเหล่านี้เมื่อพบเห็น
OpenAI ระบุว่า การสอบสวนกลุ่มบัญชีนี้ได้รับประโยชน์จากรายงาน Microsoft Threat Intelligence ที่เผยแพร่เมื่อสัปดาห์ที่แล้ว ซึ่งระบุว่ากลุ่มนี้ (ซึ่งเรียกว่า Storm-2035) เป็นส่วนหนึ่งของแคมเปญที่กว้างขึ้นเพื่อมีอิทธิพลต่อการเลือกตั้งสหรัฐฯ ที่ดำเนินการมาตั้งแต่ปี 2020
Microsoft กล่าวว่า Storm-2035 เป็นเครือข่ายของอิหร่านที่มีเว็บไซต์หลายแห่งเลียนแบบสำนักข่าว และ “มีส่วนร่วมกับกลุ่มผู้มีสิทธิเลือกตั้งของสหรัฐฯ ทั้งสองฝ่ายที่มีความคิดเห็นทางการเมืองที่แตกต่างกันอย่างสุดขั้ว ด้วยการส่งข้อความที่สร้างความแตกแยกในประเด็นต่าง ๆ เช่น ผู้สมัครชิงตำแหน่งประธานาธิบดีสหรัฐฯ สิทธิ LGBTQ และความขัดแย้งระหว่างอิสราเอล-ฮามาส” กลยุทธ์นี้ไม่ได้มุ่งเน้นที่จะส่งเสริมนโยบายใดนโยบายหนึ่ง แต่เป็นการสร้างความแตกแยกและความขัดแย้ง
OpenAI ระบุ 5 เว็บไซต์ที่เป็นฉากหน้าของ Storm-2035 ซึ่งแสดงเป็นทั้งสำนักข่าวฝ่ายก้าวหน้าและอนุรักษ์นิยม โดยมีชื่อโดเมนที่น่าเชื่อถือ เช่น “evenpolitics.com” กลุ่มนี้ใช้ ChatGPT เพื่อร่างบทความแบบยาวหลายฉบับ รวมถึงบทความหนึ่งที่กล่าวหาว่า “X เซ็นเซอร์ทวีตของทรัมป์” ซึ่งแพลตฟอร์มของ Elon Musk ไม่ได้ทำ (แต่ Musk กำลังสนับสนุนให้อดีตประธานาธิบดี Donald Trump มีส่วนร่วมบน X มากขึ้น)
บนโซเชียลมีเดีย OpenAI ระบุบัญชี X จำนวน 12 บัญชีและบัญชี Instagram หนึ่งบัญชีที่ถูกควบคุมโดยปฏิบัติการนี้ บริษัทกล่าวว่า ChatGPT ถูกใช้เพื่อเขียนความคิดเห็นทางการเมืองต่างๆ ใหม่ ซึ่งจากนั้นก็โพสต์บนแพลตฟอร์มเหล่านี้ หนึ่งในทวีตเหล่านี้กล่าวหาอย่างผิด ๆ และสร้างความสับสนว่า Kamala Harris กล่าวโทษ “ค่าใช้จ่ายด้านการเข้าเมืองที่เพิ่มขึ้น” ต่อการเปลี่ยนแปลงสภาพภูมิอากาศ ตามด้วย “#DumpKamala”
OpenAI กล่าวว่าไม่พบหลักฐานว่าบทความของ Storm-2035 ถูกแชร์อย่างกว้างขวาง และตั้งข้อสังเกตว่าโพสต์บนโซเชียลมีเดียส่วนใหญ่ได้รับความสนใจน้อยมากหรือไม่มีเลย ซึ่งมักจะเป็นกรณีของปฏิบัติการเหล่านี้ ซึ่งสามารถดำเนินการได้อย่างรวดเร็วและราคาถูกโดยใช้เครื่องมือ AI เช่น ChatGPT คาดว่าจะเห็นประกาศเช่นนี้มากขึ้นเมื่อการเลือกตั้งใกล้เข้ามาและการโต้เถียงระหว่างพรรคการเมืองบนโลกออนไลน์ทวีความรุนแรงขึ้น
