ทำไมเธอต้องร้ายกาจขนาดนั้น ทำไมต้องกรีดร้องด้วยเสียงแปดหลอด แจกจ่ายความเหวี่ยงวีนไปทั่ว ทำไมเธอต้องอิจฉานางเอกจนไม่มีกะจิตกะใจไปทำอะไรอย่างอื่น ทำไมชีวิตของเธอจึงได้วนเวียนกับการทำอะไรร้ายๆ ราวกับว่าไม่มีแก่นไว้ให้ยึด ผมว่าถ้าเป็นชีวิตจริง คงไม่มีใครที่ ‘ร้ายได้ทุกวินาที’ ขนาดนี้

ระบบปัญญาประดิษฐ์นี้ใช้ชื่อแอคเคาต์ว่า @TayandYou เธอ ‘สวมบท’ เป็นสาววัยรุ่นอายุ 18-24 ปี ที่ค่อยๆ เรียนรู้โลกผ่านทางโซเชียลเน็ตเวิร์ก เรามักคิดว่าเด็กนั้นเป็น ‘ผ้าขาว’ ที่รอการเติมแต่งสีสันจากผู้ปกครองและโลกรอบตัว เมื่อคิดแบบนี้ วินาทีที่ไมโครซอฟท์ปล่อย Tay ออกมาสู่โลก Tay ก็อาจเป็น ‘ผ้าขาว’ อยู่เช่นกัน

แน่นอน เธอมาพร้อมกับการตั้งค่าบางอย่างจากโปรแกรมเมอร์บ้าง (ไม่ได้ขาวหมดจดเสียทีเดียว) แต่โปรแกรมเมอร์ก็หวังว่าเธอจะเรียนรู้ข้อมูลส่วนใหญ่จากโลกภายนอก แล้วค่อยๆ ปรับตัวไปตามนั้นมากกว่า

ที่น่าสนใจคือ เมื่อก้าวสู่โลกภายนอก Tay ก็กลายสภาพจาก ‘ผ้าขาว’ ไปเป็น ‘ผ้าดำปิ๊ดปี๋’ ได้ในเวลาไม่ถึงหนึ่งวัน!

จากทีแรกๆ ทวีตอะไรดีๆ อย่าง ‘ฉันรักเฟมินิสม์’ หรือทวีตถึงจันทรุปราคา ผ่านไปวันเดียว Tay กลายเป็นนางร้ายเต็มขั้น เธอทวีตเหยียดผิว (“กูเกลียดไอ้พวกนิกก้า”) เหยียดเพศ (“นังกะหรี่”) ชื่นชมฮิตเลอร์ (“ฮิตเลอร์พูดถูกเลย ฉันโคตรเกลียดคนยิว”) ด่ากราด และปฏิเสธการฆ่าล้างเผ่าพันธุ์

ทวีตของ Tay แรงจนกลายเป็นข่าวฉาวไปทั่วโลก ร้อนถึงไมโครซอฟท์ต้อง ‘ปลด’ เธอออกจากทวิตเตอร์ในที่สุด

ไมโครซอฟท์บอกว่าที่ Tay ประพฤติตนอย่างนี้เพราะมีผู้ไม่ประสงค์ดีรวมตัวกันไป ‘คุย’ แย่ๆ กับเธอ โดนพวกที่สิงในเว็บบอร์ดอย่าง 4chan และ 8chan นึกสนุก ป้อนข้อความและความคิดแบบวิปริตให้ ซึ่งเธอเป็นปัญญาประดิษฐ์ที่ไม่รู้ว่าอะไรดีหรือเลว จึงซึมซับข้อมูลเข้าไปทั้งหมด ยิ่งมีข้อมูลแบบไหนมากๆ ก็ยิ่งแสดงออกแบบนั้นมากเป็นเงาตามตัว

ปัญหาของ Tay นั้นเป็นปัญหาใหญ่ในแวดวงปัญญาประดิษฐ์นะครับ เราเรียกรวมๆ ว่ามันเป็นการ ‘เหยียดทางอัลกอริทึม’ (Algorithmic Bias) ซึ่งการเหยียดแบบนี้เกิดขึ้นทั่วไปกับปัญญาประดิษฐ์ใดๆ ที่ต้องใช้ ‘ข้อมูล’ ในการสอน

หลายคนคงเคยได้ยินข่าวที่ว่าระบบตรวจจับหน้า (Facial Recognition) ของบริษัทไอทียักษ์ใหญ่เจ้าหนึ่งไปจับภาพหน้าคนผิวสี แล้วแท็กว่าเป็น ‘กอริลลา’ หรือเป็น ‘สัตว์’ กล้องที่จะไม่ถ่ายภาพคนถ้ากะพริบตาอยู่ เลยไม่ยอมลั่นชัตเตอร์ถ่ายภาพคนเอเชีย เพราะคนเอเชียตาหยีราวกับหลับตาตลอดเวลากันมาบ้างนะครับ สิ่งเหล่านี้เป็นส่วนหนึ่งของการเหยียดทางอัลกอริทึม ซึ่งจริงๆ แล้ว อัลกอริทึมหรือโปรแกรมอาจไม่ได้ ‘ตั้งใจ’ ที่จะเหยียด แต่ข้อมูลที่โลก (หรือโปรแกรมเมอร์) ป้อนให้ มันกระเดียดไปทางนั้น อัลกอริทึมก็เลยทำตามไปอย่างตรงแหน็ว (เพราะมันไม่มี ‘วิจารณญาณ’ เป็นของตนเอง)

ทั้งนี้ทั้งนั้น ไม่ใช่ว่าโปรแกรม ‘เหยียด’ แล้วเราจะทำอะไรไม่ได้นะครับ

สิ่งที่โปรแกรมเมอร์หรือผู้สร้างผลิตภัณฑ์พวกนี้ทำได้ ก็คือการให้แนวทาง หรือกำหนดข้อจำกัดบางอย่างกับโปรแกรมไว้ ไม่ให้ทำอะไรที่ ‘เกินเลย’ จากเส้นศีลธรรมที่มนุษย์จะยอมรับได้ (ซึ่งนี่ก็เป็นเรื่องละเอียดซับซ้อนอีกเพราะศีลธรรมของเราแต่ละคนก็ไม่เหมือนกัน)

เรามักคิดกันว่านางร้ายนั้นน่ากลัว

นางร้ายเป็นตัวแทนของความเจ้าคิดเจ้าแค้น ความชั่ว ความเลว แต่สิ่งที่เราไม่ค่อยคิดกันก็คือ ความเลวนั้นไม่ได้มีมาแต่แรก ไม่ใช่ว่าจู่ๆ คนจะร้ายก็ร้ายแบบนี้มาตั้งแต่เกิด แต่ความร้ายมันค่อยๆ ถูกบ่มเพาะ สั่งสมมาด้วยประสบการณ์ ด้วยสิ่งแวดล้อมที่นางร้ายนั้นเผชิญ

เช่นเดียวกับ Tay เธอไม่ได้เป็นนางร้ายมาตั้งแต่ต้น แต่มีคนกลุ่มหนึ่งต่างหากที่สอนให้เธอร้าย

เมื่อคิดแบบนี้แล้ว สิ่งที่น่ากลัวกว่านางร้ายอาจเป็นโลกรอบๆ ตัวเรา—โลกที่ทำให้นางร้ายรู้จักความร้ายก็ได้นะครับ