นักวิทยาศาสตร์ระบุว่าเป็นไปไม่ได้ที่มนุษย์จะควบคุมปัญญาประดิษฐ์ที่มีสติปัญญาเหนือล้ำ

เว็บไซต์ sciencealert.com รายงานเมื่อ ๕ พ.ย. ๖๔ ว่า มนุษย์ได้มีความกังวลว่าปัญญาประดิษฐ์ (AI) อาจล้มล้างมนุษยชาติมายาวนานหลายทศวรรษ แต่ยังไม่เคยมีหลักฐานหรือแนวคิดอย่างเป็นรูปธรรมในการพิสูจน์ข้อกังวลดังกล่าว กระทั่งเมื่อ ๕ ม.ค. ๖๔ นักวิทยาศาสตร์กลุ่มหนึ่ง (Manuel Alfonseca, et al, 2021) ได้ตีพิมพ์บทความวิจัยลงใน Journal of Artificial Intelligence Research ลงความเห็นว่า มนุษย์คงไม่สามารถควบคุมปัญญาประดิษฐ์ที่มีสติปัญญาเหนือล้ำ (Superintelligence AI) ได้ เนื่องจาก การควบคุมปัญญาประดิษฐ์ที่มีสติปัญญาเหนือล้ำจนเกินกว่าที่มนุษย์จะเข้าใจได้จำเป็นต้องมีการจำลอง (simulation) ปัญญาประดิษฐ์ดังกล่าว แต่เมื่อมนุษย์ไม่สามารถเข้าใจต่อสิ่งที่มีสติปัญญาเหนือล้ำได้ มนุษย์ก็ไม่สามารถสร้างแบบจำลองเพื่อควบคุมมันได้

ด้วยเหตุผลดังกล่าว มนุษย์จึงไม่สามารถตั้งกฎให้ปัญญาประดิษฐ์ "ห้ามทำร้ายมนุษย์" ได้ เนื่องจากมนุษย์ไม่สามารถทำความเข้าใจต่อบริบทอันซับซ้อนที่ปัญญาประดิษฐ์ดังกล่าวทำงาน ดังนั้นเมื่อระบบคอมพิวเตอร์ปัญญาประดิษฐ์ทำงานในขอบเขตที่เกินกว่าความเข้าใจของโปรแกรมเมอร์ มนุษย์จึงไม่สามารถควบคุมปัญญาประดิษฐ์ที่มีสติปัญญาเหนือล้ำได้

แนวคิดดังกล่าวมีรากฐานมาจากแนวคิดของนายแอลัน ทัวริง (Alan Turing, พ.ศ.๒๔๕๕-๒๔๙๗) นักคณิตศาสตร์ นักรหัสวิทยาและวีรบุรุษสงครามชาวอังกฤษ ซึ่งใช้คณิตศาสตร์พิสูจน์ว่าไม่มีโปรแกรมคอมพิวเตอร์ใดที่สามารถทราบได้ว่าในการแก้ปัญหาหนึ่ง โปรแกรมต้องทำงานตลอดไป (loop forever - คล้ายกรณีคอมพิวเตอร์ค้าง) หรือควรหยุดทำงานเมื่อทราบว่าไม่สามารถแก้ปัญหาได้ 

จากทฤษฏีดังกล่าวซึ่งสามารถพิสูจน์ได้ จึงเป็นไปไม่ได้ที่มนุษย์จะสามารถสร้างโปรแกรมเพื่อควบคุมปัญญาประดิษฐ์ที่มีสติปัญญาเหนือล้ำไม่ให้ทำอันตรายต่อมนุษย์หรือทำลายโลกได้ เนื่องจากโปรแกรมไม่สามารถตัดสินใจได้ว่าควรยุติการทำงานของคอมพิวเตอร์ปัญญาประดิษฐ์ที่กำลังทำลายมนุษย์หรือไม่

แม้มีการเสนอแนวคิดในการสอนจริยธรรมให้ปัญญาประดิษฐ์เพื่อไม่ให้ปัญญาประดิษฐ์ทำลายโลก แต่ก็ยังไม่มีแนวทางที่ชัดเจนว่าจะสามารถดำเนินการดังกล่าวได้อย่างไร นอกจากนี้ ยังมีการเสนอให้จำกัดศักยภาพของปัญญาประดิษฐ์ด้วยการตัดมันออกจากเชื่อมต่ออินเทอร์เน็ตหรือตัดออกจากระบบเครือข่าย อย่างไรก็ดี ได้มีข้อโต้แย้งว่าแนวทางดังกล่าวอาจไม่ใช่คำตอบที่ดี เนื่องจากหากไม่สร้างปัญญาประดิษฐ์เพื่อทำงานในสิ่งที่มนุษย์ไม่สามารถทำได้ ก็ไม่มีความจำเป็นต้องสร้างสิ่งดังกล่าวขึ้นมา อีกทั้ง มนุษย์ไม่สามารถทราบได้ว่าเมื่อใดจะมีปัญญาประดิษฐ์ที่มีสติปัญญาเหนือล้ำจนเกินความเข้าใจของมนุษย์จนกว่ามนุษย์จะสร้างมันขึ้นมา

มนุษย์จำเป็นต้องพิจารณาเลือกว่าจะพัฒนาปัญญาประดิษฐ์ไปในแนวทางใด โดยแม้ว่าแนวคิดดังกล่าวจะดูเหมือนนิยายวิทยาศาสตร์ แต่นาย Manuel Cebrian นักวิทยาศาสตร์คอมพิวเตอร์จากสถาบัน Max-Planck Institute for Human Development ในเยอรมนีระบุว่า ปัจจุบันได้มีคอมพิวเตอร์ที่ทำงานบางอย่างโดยอิสระ โดยที่โปรแกรมเมอร์ไม่สามารถเข้าใจได้ว่าคอมพิวเตอร์สามารถเรียนรู้ด้วยตนเองได้อย่างไรแล้ว

ภาพคอมพิวเตอร์ HAL9000 จากภาพยนต์ 2001 A Space Odyssey เมื่อปี ๑๙๖๘ (๒๕๑๑) ซึ่งคอมพิวเตอร์ควบคุมยานอวกาศมีสติปัญญาเหนือล้ำกว่านักบินอวกาศ และทำการสังหารนักบินในยาน