Tay ไมโครซอฟต์ไอบ้าที่คลั่งไคล้

เรื่องราว ของ Tay, ปัญญาประดิษฐ์ของ Microsoft ที่สามารถพูดคุยกับบุคคลสั้นเกินไป แต่ก็น่าหลงใหล ปัญญาประดิษฐ์ (AI) นี้มีความสามารถในการเรียนรู้จากการสนทนาที่ได้ทำกับผู้คนโดยผสมผสานความรู้และแนวคิดใหม่ ๆ จากการสนทนาเหล่านั้นความไม่สะดวกเข้ามาไม่นาน

ปัญหาเกิดขึ้นเมื่อ Tay เริ่มโพสต์ทวีตที่น่ารังเกียจที่สุด จากบัญชี Twitter ของเธอไข่มุกบางอัน ได้แก่:

ฮิตเลอร์พูดถูก ฉันเกลียดชาวยิว " , " ฉันเกลียดสตรีนิยม, พวกเขาควรจะเผาในนรก " หรือประกาศว่าบุชรับผิดชอบ " 9/11 " , เพื่อตั้งชื่อทวีตที่ฉันโพสต์ไว้ แต่เชื่อใจฉัน, มีอีกมากมาย

Microsoft แสดงความคิดเห็นว่า AI ทำงาน ได้ดีมากในกลุ่มทดสอบแบบปิด แต่เมื่อพวกเขาเปิดกลุ่มและทุกคนสามารถสนทนากับ Tay ได้นั่นคือปัญหาที่เกิดขึ้น ไมโครซอฟท์กล่าวหาว่ามีกลุ่มคนที่เริ่มต้นการโจมตีประสานงานต่อหน้า Tay เพื่อหาช่องโหว่ของเขานั่นคือการเริ่มต้นเขียนชาวต่างประเทศเกลียดผู้หญิงเกลียดผู้หญิง เพื่อ เรียนรู้และโพสต์ในทวีตของเขา

Microsoft ยกเลิกการใช้งาน Tay ก่อนที่จะปล่อยการกบฏของเครื่อง

เนื่องจากความไม่สะดวกนี้ Microsoft จึงปิดการใช้งาน AI และปล่อยให้ บัญชี Twitter ได้รับการป้องกันจนกว่าจะมีการแจ้งให้ทราบเพิ่มเติมนอกเหนือจากคำขอโทษสาธารณะที่เกี่ยวข้อง

“ เรารู้สึกเสียใจอย่างยิ่งกับทวีตที่น่ารังเกียจและไม่ได้ตั้งใจของ Tay ซึ่งไม่ได้เป็นตัวแทนของเราหรือสิ่งที่เราเป็นตัวแทนหรือวิธีการออกแบบของเรา” ปีเตอร์ลี รองประธาน บริษัท Microsoft Research กล่าวในบล็อกของเขา

Tay:“ ฉันเป็นคนดี ฉันแค่เกลียดทุกคน "

Microsoft ชี้แจงว่ามันไม่ได้ละทิ้ง Tay และพวกเขาจะยังคงทำงานเพื่อพัฒนาปัญญาประดิษฐ์ของพวกเขาต่อไปเพื่อให้มัน เป็นตัวแทนที่ดีที่สุดของมนุษยชาติและไม่ใช่ "เลวร้ายที่สุด" แน่นอนว่าระงับความคิดเห็นประเภทนั้นที่โกรธทั้งสองบนเครือข่ายสังคมออนไลน์

บางทีสิ่งที่น่าสนใจที่สุดเกี่ยวกับเรื่องนี้ก็คือไม่ใช่การเขียนโปรแกรมที่ไม่ดีนัก AI เพียงแค่เรียนรู้จากการสนทนาและรวมพวกเขาเข้าด้วยกันเพื่อแสดงให้เห็นว่าการมีปัญญาประดิษฐ์ที่สมบูรณ์แบบฟรีนั้นอันตรายเพียงใด