10 ปี OpenAI จากไวท์บอร์ดเปล่าในอพาร์ตเมนต์ สู่ ChatGPT ที่คนพันล้านใช้ทุกสัปดาห์

เช้าวันทำการแรกหลังปีใหม่ 2016 คนราว 11 ถึง 12 คนเดินเข้าไปในอพาร์ตเมนต์ของ Greg Brockman ตอนเก้านาฬิกาเศษ ด้วยอารมณ์แบบวันเปิดเทอม ทุกคนรู้ว่ามารวมตัวกันเพื่อสร้าง Artificial General Intelligence (AGI) หรือปัญญาประดิษฐ์ที่เก่งรอบด้านเทียบเท่ามนุษย์ แต่พอนั่งลงและมองหน้ากัน กลับไม่มีใครรู้ว่าขั้นตอนถัดไปคืออะไร มีคนเสนอว่าอย่างน้อยควรเริ่มจากหาไวท์บอร์ดมาก่อน Greg จึงให้คนไปหาไวท์บอร์ด ไวท์บอร์ดมาถึง ทุกคนมองหน้ากันอีกรอบ แล้วพลังในห้องก็ทรุดลงพร้อมกัน

Sam Altman ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่บริหารของ OpenAI ย้อนความทรงจำนั้นในพอดแคสต์ของ David Senraและบอกว่านั่นคือหนึ่งในโมเมนต์ที่ 'ไม่รู้เลย ว่าตัวเองกำลังทำอะไรอยู่' ชัดที่สุดในชีวิต ผู้ที่นั่งอยู่ตรงข้ามคือ David Senra เจ้าของพอดแคสต์ Founders ที่อ่านชีวประวัติผู้ประกอบการมาแล้วกว่า 400 เล่ม จึงไม่ได้ตั้งคำถามแบบสัมภาษณ์ซีอีโอบริษัท AI ทั่วไป แต่ไปเจาะที่วิธีตัดสินใจ วิธีเดิมพัน และวิธีตัดใจ

สิบปีหลังจากเช้าวันนั้น ChatGPT มีผู้ใช้ราวหนึ่งพันล้านคนต่อสัปดาห์ และสิ่งที่ร้อยบทสนทนาความยาวชั่วโมงครึ่งนี้เข้าด้วยกันคือหลักคิดชุดเดียว นั่นคือการปล่อยของออกไปให้โลกจริงตัดสิน แล้วเรียนรู้จากสิ่งที่เห็น ทุกหัวข้อที่ตามมาจากนี้ ทั้งการตัดใจจากผลิตภัณฑ์ที่ดี การขยายกำลังประมวลผล ความปลอดภัย ไปจนถึงนิสัยส่วนตัวของ Sam คือการตรวจสอบหลักข้อเดียวกันนี้ว่าได้ผลตรงไหน คิดผิดตรงไหน และยังทำได้ไม่ดีพอตรงไหน

วันแรกที่มีแค่ไวท์บอร์ดหนึ่งแผ่น กับสี่ปีครึ่งที่ไม่มีผลิตภัณฑ์เลย

ความว่างเปล่าในห้องเช้าวันนั้นไม่ได้จบลงในไม่กี่สัปดาห์ สิ่งที่ทำให้ OpenAI ต่างจากทุกบริษัทที่ Sam เคยเห็นในฐานะนักลงทุน คือระยะเวลาสี่ปีครึ่งจากวันก่อตั้งจนถึงวันเปิดตัวผลิตภัณฑ์ตัวแรก ซึ่งขัดกับคำแนะนำมาตรฐานของ Y Combinator (YC) แทบทุกข้อ เพราะสูตรที่นั่นสอนคือปล่อยเวอร์ชันแรกออกไปให้เร็วที่สุด

โจทย์ที่ยากที่สุดจึงไม่ใช่เรื่องเทคนิค แต่คือการหาอะไรมาแทนเสียงของลูกค้า เมื่อไม่มีใครใช้ของ ก็ไม่มีตัวเลขบอกได้ว่างานวิจัยเดินหน้าหรือถอยหลัง ทีมงานลองแล้วลองอีกจนพบวิธีที่ได้ผลจริงในช่วงที่ OpenAI ใช้ Reinforcement Learning (RL) หรือการเรียนรู้แบบเสริมกำลัง มาฝึกโมเดลให้เอาชนะมนุษย์ในเกม Dota 2 นั่นคือการตั้งตารางอันดับ (Leaderboard) ให้ทุกคนเห็นกันชัด ๆ ว่าไอเดียของใครทำผลงานได้ดีแค่ไหน ตัวเลขบนตารางนั้นเป็นกลางและวัดผลได้ จนนักวิจัยยอมวิ่งตามมันเอง อีกวิธีที่ได้ผลเกินคาดคือการนัดสาธิตงานให้บุคคลสำคัญที่นักวิจัยอยากสร้างความประทับใจ ส่วนวิธีที่ล้มเหลวชัดเจนคือการตั้งเดดไลน์ปลอม

Sam เรียกช่วงเวลานั้นว่า 'การคลำทางอย่างสับสนวุ่นวายเป็นเวลาหลายปี' แต่ปลายทางของการคลำทางนั้นคือการค้นพบเกือบทั้งหมดที่สำคัญ งานที่เริ่มจากเปเปอร์ Unsupervised Sentiment Neuron กลายมาเป็น GPT-1 แล้วต่อยอดเป็น GPT รุ่นถัด ๆ ไป ควบคู่กับงานด้านกฎการขยายขนาดโมเดล (Scaling Laws) ที่ให้ทั้งความมั่นใจและความเข้าใจว่าจะขยายโมเดลไปทางไหน

ตอนที่ยังไม่มีสูตรของตัวเอง OpenAI ไปขอคำแนะนำจากคนที่เคยอยู่ห้องวิจัยระดับตำนาน ปี 2015 เป็นยุคที่แทบทุกคนในซิลิคอนวัลเลย์อยากมีห้องวิจัยเป็นโครงการในฝัน หนังสือเกี่ยวกับยุคทองของ Bell Labs และ Xerox PARC ขายดี แต่คนที่ยังจำวิธีทำจริงได้เหลือน้อยมาก Sam จึงไปคุยกับ Alan Kay และอีกไม่กี่คน คำแนะนำบางส่วนดีมาก บางส่วนใช้กับยุคนี้ไม่ได้ และสิ่งที่ OpenAI ไม่มีเลยคือเครื่องพิมพ์กำไรแบบที่ Bell Labs มีไว้หนุนห้องวิจัย ความทรงจำหลักของ Sam ในช่วงนั้นจึงเป็นการพยายามระดมทุนแล้วล้มเหลวซ้ำ ๆ อย่างน่าหงุดหงิด

บทเรียนจากเก้าอี้นักลงทุน: กฎยกกำลังใช้ได้ทั้งกับสตาร์ตอัปและห้องวิจัย

คำถามที่ตามมาคืออะไรทำให้คนคนหนึ่งทุ่มเวลาหลายปีไปกับเดิมพันที่แทบไม่มีใครเชื่อ คำตอบอยู่ในเส้นทางอาชีพที่เดินสวนทางกับคนส่วนใหญ่ในซิลิคอนวัลเลย์ ที่มักเป็นผู้ก่อตั้งก่อน แล้วค่อยกึ่งเกษียณไปเป็นนักลงทุน ส่วน Sam เป็นนักลงทุนก่อนแล้วจึงมาบริหารบริษัท ข้อดีที่เจ้าตัวบอกว่าประเมินค่าไม่ได้คือการได้เห็นโมเมนต์ตัดสินใจสำคัญของบริษัทจำนวนมหาศาลแบบวันแล้ววันเล่า ผู้ก่อตั้งทั่วไปมีประสบการณ์ตัดสินใจแบบนั้นเท่าที่ห้าหรือสิบปีของตัวเองจะให้ได้ แต่นักลงทุนได้เห็นทั้งกอง และเมื่อต้องเปลี่ยนกลยุทธ์ครั้งใหญ่หรือให้ผู้บริหารพ้นตำแหน่งแบบที่ไม่มีทางออกสวย ๆ ชุดข้อมูลก้อนนั้นก็โผล่ขึ้นมาในหัวทันที

จุดเชื่อมที่ Sam มองว่าสำคัญที่สุดระหว่างสองบทบาทคือกฎยกกำลัง (Power Law) การลงทุนที่ดีที่สุดหนึ่งดีลจะให้ผลตอบแทนมากกว่าดีลอื่นทั้งหมดรวมกัน และดีลที่ดีอันดับสองจะให้ผลตอบแทนมากกว่าที่เหลือทั้งหมดรวมกันอีกทอดหนึ่ง สมองมนุษย์ไม่ได้ถูกออกแบบมาให้คิดแบบนี้ จึงต้องฝึกใหม่ และงานวิจัย AI ก็มีรูปร่างเดียวกัน ข้อสรุปที่ตามมาคือการเดิมพันความเสี่ยงสูงเป็นเรื่องยอมรับได้ ตราบใดที่มันเป็นเดิมพันที่ถ้าสำเร็จแล้วมีค่ามหาศาล

ผลของการคิดแบบนี้เห็นได้ทันทีตอน OpenAI ประกาศตัวปลายปี 2015 ว่าจะมุ่งไปที่ AGI ทีมงานถูกวิจารณ์อย่างหนักจากคนสำคัญแทบทั้งวงการ และเมื่อหันมาโฟกัสที่ Large Language Model (LLM) หรือโมเดลภาษาขนาดใหญ่ ก็ถูกวิจารณ์อีกรอบว่าไร้สาระ Sam เทียบภาพให้เห็นชัดว่าปีนั้นทั้งโลกมีความพยายามสร้าง AGI อยู่ไม่กี่แห่ง มี DeepMind กับอีกหนึ่งหรือสองราย ขณะที่มีผู้ก่อตั้งหลายพันคนกำลังทำแอปแชร์รูปภาพ

คุณสมบัติของคนที่ Sam มองหาจึงเหมือนกันทั้งในตัวผู้ก่อตั้งและนักวิจัย โดยใช้คำว่า Non-standard หรือคนที่ไม่เข้าพิมพ์มาตรฐาน หมายถึงคนที่คิดต่างจริง ๆ และกล้ายืนยันในความเชื่อที่ไม่เป็นที่นิยม อาจผิดก็ได้ แต่ถ้าถูกจะถูกแบบใหญ่โต ต่างจากคนที่เอาไอเดียเดียวกับคนอื่นมาเคลือบผิวบาง ๆ แล้วพยายามทำให้ดูใหม่ วันนี้คนจำนวนมากอยากเปิดห้องวิจัย AI แต่คนที่ Sam อยากสนับสนุนคือกลุ่มเล็ก ๆ ที่ทำสิ่งซึ่งเพิ่งเป็นไปได้เพราะ AI เก่งขึ้นถึงระดับนี้ และยังดูเหมือนไม่ใช่ไอเดียที่ดีในสายตาคนอื่น

เมื่อ David ยกคำพูดของ Demis Hassabis ที่มองว่าเงินทุนระดับนี้ทำให้ไม่น่ามีผู้เล่นรายที่สี่ แต่ยังมีโอกาสอยู่บ้างที่จะมีนักวิจัยสันโดษคนหนึ่งเข้าหาโจทย์นี้ด้วยมุมที่ไม่มีใครนึกถึง Sam ตอบว่าเห็นด้วยว่าโอกาสนั้นมีจริง และนั่นคือเหตุผลที่วงการนี้ยังสนุก

ทำไมงานหลักของซีอีโอ OpenAI คือชิปกับไฟฟ้า ไม่ใช่ผลิตภัณฑ์

วิธีคิดแบบเดิมพันที่สวนความเห็นส่วนใหญ่นี้ อธิบายได้ด้วยว่าทำไมวันนี้เวลาของ Sam ถึงไม่ได้ถูกใช้ไปกับสิ่งที่หลายคนคาด เมื่อถูกถามว่าปรับปรุงผลิตภัณฑ์อย่างไร คำตอบที่ได้คือเวลาส่วนใหญ่ไม่ได้อยู่ที่นั่น แต่อยู่กับงานวิจัยและกำลังประมวลผล (Compute) เหตุผลสำคัญคือสิ่งที่มีค่าที่สุดที่บริษัททำได้คือสร้างโมเดลที่ฉลาด แล้วรันมันได้อย่างมีประสิทธิภาพในปริมาณมหาศาล ถ้าสองเรื่องนี้ถูก เรื่องอื่นจะตามมาเอง

การขยายกำลังประมวลผลในระดับที่ OpenAI ทำอยู่ ลากงานหลายสายมาบรรจบกันในจุดเดียว ตั้งแต่การออกแบบชิปของตัวเอง ห่วงโซ่อุปทานของโรงงานผลิตชิป (Fab) และผู้ผลิตแร็กเซิร์ฟเวอร์ ไปจนถึงระบบไฟฟ้าที่ต้องรองรับ ศูนย์ข้อมูล นโยบายรัฐ และโลจิสติกส์ ทั้งหมดนี้พ่วงมากับโจทย์การเงินที่ Sam อธิบายว่าเป็นโครงการโครงสร้างพื้นฐานที่แพงที่สุดในประวัติศาสตร์ หรือกำลังจะกลายเป็นเช่นนั้นอย่างรวดเร็ว

เหตุผลที่งานแบบนี้เข้าทาง Sam ก็ย้อนกลับไปหาอาชีพเดิมอีกครั้ง สิ่งที่เจ้าตัวบอกว่าใกล้เคียงกับการลงทุนในสตาร์ตอัปมากที่สุด คือการบริหารโครงการวิจัย เพราะสองงานนี้ต้องใช้ทักษะชุดเดียวกัน คือการหาเดิมพันที่สวนทางกับความเห็นส่วนใหญ่ (Non-consensus) การตัดสินใจว่าจะมั่นใจกับอะไร การอ่านรูปร่างของการเติบโตแบบทวีคูณ และการบริหารคนเก่งระดับหัวแถว ซึ่งงานที่ยากกว่านั้นคือการหาคนกลุ่มนี้ให้เจอตั้งแต่ต้น

ราคาของการโฟกัส: เหตุผลที่ Sora และ Atlas ต้องจบลง

เมื่อกำลังประมวลผลคือทรัพยากรที่หายากที่สุด คำถามว่าจะเอามันไปลงตรงไหนจึงกลายเป็นคำถามเชิงกลยุทธ์ที่ใหญ่ที่สุดของบริษัท และ Sam วางจุดยืนไว้ชัดว่า OpenAI ควรเป็นบริษัทแพลตฟอร์มมากกว่าบริษัทผลิตภัณฑ์ ภาพที่ Sam อธิบายเรียบง่ายจนน่าตกใจ คือมีหน้าตาเดียวให้คนเข้าถึง AGI ของตัวเองหรือขององค์กร บวกกับ Application Programming Interface (API) หนึ่งชุดให้ทุกคนเอาไปสร้างอะไรก็ได้ต่อยอดขึ้นไป จากนั้นก็ขายปัญญาประดิษฐ์ที่ดีที่สุดในทุกจุดของเส้นความคุ้มค่า ตั้งแต่ระดับสูงสุดสำหรับการค้นพบทางวิทยาศาสตร์ ไปจนถึงระดับราคาถูกสำหรับงานปริมาณมากที่ไม่ต้องใช้ความฉลาดขั้นอัจฉริยะ

ทางเลือกนี้มีราคาที่ต้องจ่าย และราคานั้นคือการยอมยกเลิกของที่ดีอยู่แล้ว OpenAI ยุติ Sora ซึ่ง Sam ยอมรับเองว่าเป็นผลิตภัณฑ์ที่ดีและสนุก แต่กินกำลังประมวลผลมหาศาลและไม่สำคัญเท่า Codex ที่ควรได้ทรัพยากรก้อนนั้นไป จากนั้นก็ยุติเบราว์เซอร์ Atlas ที่เจ้าตัวบอกว่าเป็นเบราว์เซอร์ที่ดีที่สุดในความเห็นตัวเอง แต่ไม่สำคัญพอที่จะใช้กำลังคนระดับนั้น ต่อมาบริษัทยังรวม ChatGPT กับ Codex เข้าเป็นทางเข้าเดียว หลังพบว่าชื่อ Codex ทำให้คนเข้าใจผิดว่าใช้ได้แค่งานเขียนโค้ด ทั้งที่มันทำงานได้แทบทุกแบบ

'การยอมปล่อยมือจากไอเดียที่ดี เพื่อเก็บแรงทั้งหมดไว้ให้ไอเดียที่ยิ่งใหญ่ คือบทเรียนที่ยากที่สุดของผู้ประกอบการและธุรกิจทุกราย' 

Sam บอกว่ามันเจ็บ และไม่ว่าจะเตรียมใจมาแค่ไหน แทบทุกคนก็ยังทำได้แย่ รวมถึงตัว Sam เองที่รู้ตัวดีว่าไม่เก่งเรื่องนี้ ในโลกที่กำลังประมวลผลจำกัด คนจำกัด และทรัพยากรจำกัด ข้อสรุปของ OpenAI คือปัญญาประดิษฐ์ทั่วไปสำหรับงานความรู้และงานวิทยาศาสตร์เป็นสิ่งสำคัญที่สุดที่ทำได้ อะไรที่อยู่ต้นน้ำของการสร้างความฉลาดนั้นคือสิ่งที่ควรลงแรง ที่เหลือให้เปิดเป็นแพลตฟอร์มยืดหยุ่นแล้วปล่อยให้คนอื่นสร้างต่อ เป้าหมายที่ Sam พูดถึงคือธุรกิจใหม่ 100 ล้านรายและคน 8 พันล้านคนได้ใช้มัน โดยไม่ต้องลงไปแข่งกับลูกค้าของตัวเองในทุกหมวด

คำสารภาพของคนที่สร้าง AI แต่ยังเลิกนิสัยเดิมของตัวเองไม่ได้

แต่ข้อจำกัดที่หนักกว่ากำลังประมวลผลกลับเป็นสิ่งที่สั่งซื้อเพิ่มไม่ได้ นั่นคือนิสัยของมนุษย์ และช่วงที่แหลมคมที่สุดของบทสนทนาก็เกิดขึ้นตอนที่ David ถามว่า Sam เคยตกใจกับพฤติกรรมตัวเองไหม ที่รู้ว่ามีวิธีทำงานที่ดีกว่า แต่ยังเลิกวิธีเดิมไม่ได้ คำตอบคือ 'ร้อยเปอร์เซ็นต์' และบอกว่ารอคำถามนี้มานาน

คำอธิบายที่ตามมาตรงไปตรงมากว่าที่คาด สิ่งที่ Sam มองว่าขัดแย้งกับตัวเองที่สุดในเชิงจิตวิทยา คือการใช้คอมพิวเตอร์แบบเดิมมา 20 ปี ตอนนี้ Sam มีเครื่องมือระดับ Codex อยู่ในมือ ซึ่งควรทำให้เลิกคลิกไปคลิกมา เลิกคัดลอกข้อความจากแอปแชตหนึ่งไปอีกแอปหนึ่ง เลิกไล่อ่านอีเมลทั้งกองเพื่อหาว่าฉบับไหนเปิดแล้วเจ็บน้อยที่สุด และเลิกทำงานจำเจซ้ำ ๆ แบบเดิม แต่มีอะไรบางอย่างฝังอยู่ในหัวว่าการทำงานแบบนั้นคือความหมายของคำว่าทำงานและมีประสิทธิภาพ ถ้าถามตรง ๆ Sam จะไม่เคยบอกว่าชอบทำงานแบบนั้น และคิดว่าตอบด้วยความจริงใจ แต่พฤติกรรมที่ปรากฏออกมาก็บอกว่าต้องแอบชอบมันอยู่ลึก ๆ

แรงเฉื่อยแบบเดียวกันนี้คือสิ่งที่ Sam ยอมรับว่าประเมินต่ำไปตอน GPT-4 ออกในปี 2023 เจ้าตัวคิดว่าธุรกิจซอฟต์แวร์จะถูกพลิกโฉมเร็วกว่าที่เกิดขึ้นจริงมาก แต่เศรษฐกิจมีแรงเฉื่อยมหาศาล คนยังทำสิ่งเดิม ยังซื้อจากบริษัทเดิม ยังอยากใช้เครื่องมือแบบเดิม ตัวอย่างที่ติดอยู่ในหัว Sam คือช่วงที่ Netflix เริ่มส่งดีวีดีทางไปรษณีย์แต่ยังไม่ทำสตรีมมิง Sam ขับรถผ่านร้าน Blockbuster ไปโรงเรียนทุกวันแล้วรู้สึกทึ่งที่คนยังเดินเข้าร้านอยู่ ประเด็นสำคัญคือแรงเฉื่อยนี้กลับเป็นเรื่องดีในมุมของ Sam เพราะช่วยให้ช่วงเปลี่ยนผ่านที่รออยู่ข้างหน้าราบรื่นและช้าลง

คนที่สวนแรงเฉื่อยนี้ได้คือคนที่บทสนทนาเปิดฉากด้วย นั่นคือ Tobi Lütke ซีอีโอ Shopify ที่ Sam ยกให้เป็นซีอีโอที่โน้มตัวเข้าหา AI แรงที่สุดในทุกจุดของเส้นพัฒนาการ เพราะลงมือเขียนซอฟต์แวร์เอง ทดลองโมเดลเอง และส่งความเห็นเรื่องผลิตภัณฑ์กลับมาแบบละเอียดและตรงจนหาคนเทียบยาก Tobi พูดก่อนใครว่า Shopify จะไม่ยืนดูเฉย ๆ และต้องสร้างเอเจนต์ของตัวเอง ไม่อย่างนั้นบริษัทจะอยู่ไม่ได้ ล่าสุด Tobi ยังบอกว่าปี 2026 จะเป็นปีที่ทุกธุรกิจถูกท้าทายได้หมด และคนที่จะสร้าง Shopify เวอร์ชัน AI-native ก็คือตัว Tobi เอง จึงลงมือรื้อสร้างใหม่ตอนกลางคืน ประเด็นเดียวที่ Sam เห็นต่างคือเรื่องเวลา Sam คิดว่ามันจะใช้เวลานานกว่านั้น และไม่ใช่ทุกธุรกิจจะถูกท้าทาย เพราะยิ่ง AI เก่งขึ้น ธุรกิจที่ไม่เกี่ยวกับ AI เลยจะยิ่งแข่งด้วยยาก ในเมื่อคนจะยิ่งอยากได้ประสบการณ์จริงที่ไม่ผ่านเทคโนโลยี

ทางออกที่ Sam มองไว้จึงไม่ใช่การเร่งเปลี่ยนนิสัยคน แต่คือการสร้างผลิตภัณฑ์ให้ดีขึ้น Sam เทียบสถานะปัจจุบันกับยุคก่อน iPhone ที่ชิ้นส่วนเทคโนโลยีเกือบทั้งหมดมีอยู่แล้วในเครื่องอย่าง Palm Treo สิ่งที่ขาดไปคือไอเดียเชิงผลิตภัณฑ์ที่ทำให้ iPhone เป็น iPhone และวันนี้วงการ AI ก็ยังไม่มีโมเมนต์นั้น ทุกคนจึงยืนคร่อมสองโลก มีคอมพิวเตอร์ที่ใช้แบบเดิมได้ และมีเอเจนต์ที่ใช้คอมพิวเตอร์แทนได้ แต่ยังไม่แน่ใจว่าเมื่อไรควรใช้อะไร

ในทางผลิตภัณฑ์ สิ่งที่ Sam อยากเห็นต่อไปคือการให้โมเดลรับบริบทได้มากกว่าที่มนุษย์คนเดียวจะรับได้ เพราะตอนนี้เจ้าตัวรู้สึกว่าถูกจำกัดด้วยปริมาณบริบทที่ AI มีเกี่ยวกับตัวเอง ไม่ใช่ด้วยความฉลาดของโมเดลอีกต่อไป Sam ไม่มีเวลาอ่านทุกข้อความในแชตภายในบริษัท ไม่มีเวลาอ่านทุกเรื่องเล่าของลูกค้า และอ่านเปเปอร์ได้น้อยกว่าที่ควร ในขณะที่ไม่มีมนุษย์คนไหนอ่านเอกสารหลายหมื่นหน้าได้ในไม่กี่วินาทีแล้วใช้มันได้อย่างแม่นยำ แต่ AI ทำได้ และนั่นคือแกนที่ Sam เชื่อว่าจะเปลี่ยนวิธีทำงานของคนจริง ๆ

หนึ่งประโยคจาก Peter Thiel ที่ทำให้ OpenAI ทุ่มทุกอย่างให้ ChatGPT

คำถามว่าจะสร้างผลิตภัณฑ์แบบไหนต่อ ย้อนกลับไปที่คำถามพื้นฐานกว่านั้นว่าการตัดสินใจครั้งใหญ่ของ Sam มาจากไหน เมื่อ David ถามว่าไปปรึกษาใครเวลาเจอปัญหาที่ไม่มีคำตอบชัดเจน คำตอบแบ่งเป็นสามกลุ่ม กลุ่มแรกคือนักวิจัยที่อยู่ด้วยกันมาตั้งแต่ต้น จนมีภาษาร่วม สัญชาตญาณร่วม และมาตรฐานร่วมเรื่องทิศทางของเทคโนโลยี ซึ่ง Sam บอกว่าหาแบบนี้จากคนนอกบริษัทไม่ได้เลย อีกสองคนคือ Paul Graham และ Peter Thiel ที่ Sam ไปหาเมื่อเจอปัญหาซึ่งคิดเองจนตันแล้ว โดยอธิบายคุณสมบัติของสองคนนี้ด้วยการเปรียบว่าถ้า LLM ทำหน้าที่ทำนายคำถัดไป สองคนนี้คือคนที่ Sam ทำนายคำถัดไปได้ยากที่สุด และนั่นคือทักษะที่มีค่ามาก

ตัวอย่างที่ Sam ยกมาเกิดขึ้นราวสองเดือนหลัง ChatGPT เปิดตัว ตอนนั้นตัวเลขโตเร็วแต่ให้ความรู้สึกไม่มั่นคง เพราะคนเข้ามาลองเพราะอยากรู้ว่าคุยกับมันได้แค่ไหน คนในบริษัทจำนวนไม่น้อยจึงคิดว่าต้องรีบหาอย่างอื่นทำ Sam ถือลิสต์ห้าถึงหกอย่างที่บริษัทอาจไปโฟกัสไปคุยกับ Peter คำตอบที่ได้คือการทำอะไรก็ตามที่ไม่ใช่สิ่งนี้เป็นความผิดพลาดที่เห็นได้ชัด เพราะพลังของ ChatGPT คือพลังของช่องข้อความว่างเปล่าแบบเดียวกับ Google ช่องที่พิมพ์อะไรลงไปก็ได้แล้วมันทำสิ่งที่ถูกต้องออกมา ข้อที่ทุกคนกังวลคือมันไม่มีฟีด ไม่มีผลจากเครือข่ายผู้ใช้ (Network Effect) และยังไม่มีระบบจำบริบทที่ทำให้คนติด แต่ Peter กลับชี้ว่าคนไล่ตามโมเดลธุรกิจแบบ Google มา 20 ปี และนี่คือสิ่งแรกที่ใกล้เคียง OpenAI จึงทุ่มไปที่ ChatGPT เต็มตัว Sam สรุปสั้น ๆ ว่านั่นคือตัวอย่างของอัจฉริยภาพแบบเรียบง่ายที่สำคัญมาก

ส่วนบทเรียนจาก Paul Graham ที่ Sam ใช้บ่อยที่สุดคือการปล่อยเวอร์ชันแรกออกไปตอนที่ยังรู้สึกอายกับมัน เพราะเสียงตอบรับจากคนใช้จริงจะพามันไปไกลกว่าการขัดเกลาในห้องปิด ก่อนเปิดตัว ChatGPT Sam ไม่ได้โทรไปถามด้วยซ้ำ เพราะรู้อยู่แล้วว่าคำตอบคืออะไร และสิ่งที่ทำให้ Sam ประหลาดใจเมื่อมองย้อนไปที่ผู้ก่อตั้ง YC หลายพันคน คือความสัมพันธ์ที่ชัดเจนระหว่างความสามารถในการเคลื่อนไหวเร็วเป็นรอบ ๆ กับความสำเร็จ

เมื่อวางคำแนะนำของสองคนนี้ต่อกัน จะเห็นว่ารากของมันมาจากที่เดียวกัน และ Sam ก็ให้เครดิต YC มากกว่าที่หลายคนคาด โดยเปรียบว่าเหมือนวงดนตรีที่ขายอัลบั้มไม่มาก แต่มีอิทธิพลต่อนักดนตรีรุ่นถัดมาทั้งหมด สิ่งที่ YC ให้มีสองชั้น ชั้นแรกคือปรัชญาการบริหารบริษัท ทั้งการปล่อยของแล้วปรับแก้เป็นรอบ ๆ (Iterative Deployment) การให้คนสายเทคนิคเป็นผู้นำ และการกล้าเดิมพันกับคนรุ่นใหม่ที่มีพลังและความทะเยอทะยานสูงแม้ประสบการณ์ยังน้อย ชั้นที่สองคือการเปลี่ยนระบบนิเวศทั้งหมด Sam บอกตรง ๆ ว่าถ้าย้อนกลับไปที่ระบบนิเวศสตาร์ตอัปแบบปี 2004 แล้วยิงเทคโนโลยีมาถึงปี 2016 โดยไม่มีการเปลี่ยนแปลงเรื่องอำนาจต่อรองของผู้ก่อตั้งและการเข้าถึงทุนของคนสายเทคนิครุ่นใหม่ OpenAI คงเกิดขึ้นไม่ได้เลย

น่าสนใจว่าเมื่อ David ถามเรื่องบทเรียนจากความล้มเหลว Sam กลับเลือกอีกด้าน โดยบอกว่าเรียนจากความสำเร็จได้มากกว่า เพราะสิ่งที่ล้มเหลวมีเหตุผลนับไม่ถ้วนและหาความเป็นเหตุเป็นผลที่ถูกต้องได้ยาก บทเรียนที่ได้มักกว้าง ๆ เรื่องความอึด และเป็นสิ่งที่รู้อยู่แล้ว แต่เมื่อเข้าใจว่าส่วนไหนของ YC หรือส่วนไหนของ OpenAI ที่ได้ผลจริง การหยิบบทเรียนนั้นไปใช้ต่อให้ผลดีกว่ามาก

ความเสี่ยงที่ Sam กลัวมากกว่าโมเดลที่ควบคุมไม่ได้

หลักคิดจาก YC ตอบได้ว่าจะสร้างบริษัทอย่างไร แต่ไม่ได้ตอบว่าควรกลัวอะไร และเมื่อบทสนทนามาถึงจุดนั้น Sam บอกว่ามีความเสี่ยงสองข้อที่กังวลที่สุด ซึ่งสองข้อนี้ตึงกันเองอยู่ ข้อแรกคือการสูญเสียการควบคุม เมื่อ AI ทรงพลังจนไม่มีใครรับประกันได้ว่ายังควบคุมได้จริง ข้อที่สองคืออำนาจกระจุกตัวจนบริษัทเดียว โมเดลเดียว หรือคนเดียวมีอำนาจมากเกินไป แก่นของทั้งสองข้อเหมือนกัน คือมันเป็นจุดยืนที่ต้านความเป็นมนุษย์ แนวทางที่ถูกต้องในสายตา Sam คือการยืนยันว่ามนุษย์ต้องอยู่ในการควบคุมอนาคตอย่างลึกซึ้ง และต้องมีอำนาจมากขึ้น ไม่ใช่น้อยลง

ความกังวลข้อหลังพาไปสู่การวิจารณ์ที่ตรงที่สุดของทั้งบทสนทนา Sam พูดถึงข้อเสนอที่ได้ยินจากบางส่วนของวงการอย่างไม่อ้อมค้อม โดยล้อเลียนมันเป็นคำโฆษณาขายของว่า 'เราจะมอบยารักษาทุกโรคและความมั่งคั่งทางวัตถุให้พวกคุณ แล้วพวกคุณก็หยุดบ่น ปล่อยให้เราตัดสินใจเรื่องอนาคตทั้งหมด เชื่อเราเถอะ เราจะเป็นผู้เผด็จการที่ใจดี' Sam บอกว่านี่คือคำโฆษณาที่แย่มาก และแย่ในทางที่ต้านความเป็นมนุษย์ แต่กลับมีคนเต็มใจพูดมันออกมา เมื่อถามว่าทำไม Sam ตอบว่ามาจากความกลัวและความต้องการอำนาจ คนจำนวนหนึ่งกังวลกับขนาดของความเสี่ยงมากจนรู้สึกว่าต้องแลกเสรีภาพก้อนใหญ่กับความปลอดภัย และท้ายที่สุดตรรกะนั้นก็กลายเป็นข้ออ้างให้พฤติกรรมแสวงหาอำนาจ

ปัญหาไม่ได้จบที่จุดยืน แต่อยู่ที่วิธีสื่อสารด้วย Sam ชี้ว่าวงการ AI รวมถึง OpenAI เอง ทำหน้าที่อธิบายประโยชน์และวิธีลดผลกระทบให้สาธารณะได้แย่มาก คนที่สร้าง AI จำนวนไม่น้อยเดินสายพูดว่ามีโอกาส 25 เปอร์เซ็นต์ที่จะทำให้โลกพัง แต่ก็จะเร่งทำต่อเพราะกลัวคนอื่นทำก่อน หรือบอกว่างานครึ่งหนึ่งจะหายไปในปีเดียวและหวังว่าทุกคนจะไม่เป็นไร ส่วนคำตอบที่วงการหยิบมาใช้อย่าง Universal Basic Income (UBI) หรือรายได้พื้นฐานถ้วนหน้า ก็แทบไม่มีการพูดถึงสิ่งที่คนส่วนใหญ่ให้ค่ามากที่สุด นั่นคือความสามารถของแต่ละคนในการมีอิทธิพลต่ออนาคตของตัวเอง และการร่วมกันออกแบบว่าสังคมจะเดินไปทางไหน

อีกด้านหนึ่ง สิ่งที่ Sam เชื่อว่ากำลังจะเกิดขึ้นแต่วงการพูดถึงน้อยเกินไป คือการก่อตั้งธุรกิจขนาดเล็กที่จะเฟื่องฟูที่สุดเท่าที่โลกเคยเห็น เหตุผลคือการเริ่มธุรกิจเล็ก ๆ เคยต้องใช้ต้นทุน ทรัพยากร และความโชคดีมากเกินความจำเป็น และ AI กำลังลดเงื่อนไขเหล่านั้นลงทั้งหมด Sam ยอมรับว่า OpenAI เห็นสัญญาณนี้เต็มไปหมด แต่ยังสร้างผลิตภัณฑ์มารองรับได้ไม่มากพอ ซึ่งเป็นเรื่องที่เจ้าตัวบอกว่าไม่มีข้ออ้าง และต้องทำมากกว่านี้

AI สองตัวคุยกันสนุกกว่าคนสองคน แล้วคนจะยังฟังคนอยู่ไหม

ความเชื่อว่าคนธรรมดาต้องมีอำนาจมากขึ้นนี้ต่อยอดไปถึงคำถามที่ Sam ชอบยิงกลับ นั่นคือถ้าวันหนึ่ง AI สองตัวคุยกันได้น่าสนใจกว่ามนุษย์สองคน คนจะสนใจไหม หรือจะยังเลือกฟังคนจริง ๆ คำตอบของ Sam ชัดเจนว่าเรื่องที่เกี่ยวกับคน ความสัมพันธ์ระหว่างคน และการที่คนชอบคนอื่น จะมีมูลค่าสูงขึ้นในโลกหลัง AI ไม่ใช่ต่ำลง Sam เล่าถึงตัวเองว่าไม่อ่านหนังสือแบบอีบุ๊กและไม่ชอบประชุมผ่าน Zoom เพราะอยากอยู่กับคนในโลกจริง

จากจุดนั้น ข้อสรุปที่ Sam ให้ไว้ก็ค่อนข้างสวนความคาดหมายของคนที่ทำงานสร้าง AI คือแม้จะมีปัญญาประดิษฐ์ที่เหนือกว่ามนุษย์ (Superintelligence) แล้ว โลกโดยภาพรวมก็จะไม่ต่างจากเดิมมาก เพราะคนยังถูกออกแบบมาให้แคร์คนอื่น อยากอยู่ใกล้คนอื่น และอยากมีปฏิสัมพันธ์กับคนอื่นอยู่ดี จะมีบางคนที่หลงโมเดลจนมองว่ามนุษย์เป็นสิ่งกีดขวาง แต่สำหรับคนส่วนใหญ่ มนุษย์คนอื่นคือทั้งหมดของเรื่องนี้

บทเรียนจากวงการการบิน: ปล่อยของออกไป แล้วรายงานทุกความผิดพลาด

ถ้ามนุษย์คือศูนย์กลางของเรื่องนี้จริง คำถามถัดมาคือจะทำให้เทคโนโลยีปลอดภัยพอสำหรับมนุษย์ได้อย่างไร Sam แยกให้เห็นว่าตัวเองเห็นด้วยกับกลุ่มที่เชื่อว่า AI จะพาโลกไปสู่หายนะ (Doomer) ในประเด็นที่ว่านี่คือเทคโนโลยีทรงพลังและควรเผื่อไปทางระมัดระวังในทุกระดับความสามารถ แต่ไม่เห็นด้วยกับข้อสรุปว่ามันเป็นปัญหาที่แก้ไม่ได้ ย้อนไปตอน OpenAI เริ่มต้น มีสองความเชื่อที่แพร่หลาย หนึ่งคือไม่มีทางสร้างอะไรที่คล้าย AGI ได้ในสิบปี และสองคือถ้าสร้างได้ก็จะทำให้ปลอดภัยไม่ได้เลย ผ่านมาหนึ่งทศวรรษ OpenAI สร้างสิ่งที่คนยุคนั้นน่าจะเรียกว่าคล้าย AGI ได้แล้ว เรื่องดีเกิดขึ้นมาก และคำทำนายแบบสุดโต่งว่าโลกจะพังก็ยังไม่เกิด

คำตอบของ OpenAI จึงเป็นหลักคิดชุดเดิมที่ Sam บอกว่าได้มาจากสตาร์ตอัป นั่นคือการปล่อยของออกไปในโลกจริง รับเสียงตอบรับจากคนใช้จริง แล้วดูว่าจุดไหนพังจุดไหนไม่พัง และประเด็นสำคัญคือวิธีนี้ไม่ใช่แค่วิธีสร้างผลิตภัณฑ์ที่ดี แต่คือวิธีสร้างผลิตภัณฑ์ที่ปลอดภัยด้วย ทุกครั้งที่มีโมเดลรุ่นใหม่ บริษัทจะปล่อยออกไปแล้วดูว่าจุดใดที่ผู้ใช้ต้องการให้ผ่อนกรอบกำกับเพราะมีเรื่องดี ๆ ที่อยากทำ จุดใดที่การกำกับให้ AI สอดคล้องกับเจตนามนุษย์ (Alignment) ล้มเหลว และจุดใดที่ระบบความปลอดภัยพลาด ChatGPT อยู่ในตลาดยังไม่ถึงสี่ปี มีคนใช้ราวพันล้านคนกับเรื่องละเอียดอ่อนและสำคัญ ในกรอบเวลาแบบนี้ Sam มองว่าไม่มีทางเลยที่จะทำได้จากหอคอยงาช้าง

โจทย์ถัดมาคือจะทำให้วิธีนี้เป็นระบบได้อย่างไร และแบบอย่างที่ Sam หยิบมาเทียบคือ Federal Aviation Administration (FAA) หรือองค์การบริหารการบินแห่งชาติของสหรัฐ ที่ทำให้การบินปลอดภัยจนคนขึ้นเครื่องบินโดยไม่ต้องคิดมาก ด้วยระบบรายงานอุบัติเหตุที่แข็งแรง ตรงไปตรงมา ไม่กลบเกลื่อน และดึงข้อมูลออกมาให้ได้มากที่สุด OpenAI จึงประกาศตั้งแต่ต้นว่ารู้ว่าโมเดลไม่สมบูรณ์ รู้ว่ามันมีอาการสร้างข้อมูลเท็จ (Hallucination) แต่โลกต้องได้สัมผัสเทคโนโลยีนี้ และเมื่อมีอะไรผิดพลาดก็จะออกรายงานวิเคราะห์เหตุ (Postmortem) ที่ชัดเจน เรียนรู้ให้มากที่สุด แล้วแบ่งบทเรียนให้คนอื่นที่สร้าง AI ด้วย เหตุผลที่ Sam ให้ไว้ตรงไปตรงมาคือสังคมและโมเดลจะวิวัฒน์ไปด้วยกัน จึงไม่มีใครนั่งคิดผลกระทบทั้งหมดในห้องปิดได้

ถึงอย่างนั้น Sam ก็ยอมรับว่าจากนี้จะยากขึ้น เพราะโมเดลเก่งขึ้นบนเส้นที่ชันมาก และสิ่งที่ไม่รู้ว่าตัวเองไม่รู้ก็ดูหนักหนากว่าเดิมในเชิงสัมบูรณ์ ซึ่งหมายความว่าจะต้องมีการตัดสินใจยาก ๆ อีกหลายครั้งว่าเมื่อไรควรชะลอการพัฒนา และเมื่อไรควรปล่อยให้เทคโนโลยีสัมผัสความเป็นจริง แต่สิ่งที่ Sam ยืนยันคือปัญหานี้จะไม่ถูกแก้ด้วยการตัดตัวเองออกจากความเป็นจริง

จดหมายแปดฉบับถึงลูก

หลักการเดียวกันเรื่องการไม่หลบความจริงปรากฏอีกครั้งในช่วงที่ส่วนตัวที่สุดของบทสนทนา เมื่อ David ถามว่า Sam จดบันทึกไหม คำตอบคือเคยทำ ในรูปแบบที่ไม่มีใครเดาได้ ตอนลูกคนแรกเกิด Sam กลับบ้านมากล่อมลูกนอนแล้วต้องหาเรื่องคุย จึงเล่าเรื่องของวันนั้นให้ลูกฟัง ทั้งเรื่องที่กำลังต่อสู้อยู่ เรื่องที่กังวล และเรื่องที่เกิดขึ้น เจ้าตัวรู้สึกว่ามันสนุก และคิดว่าวันหนึ่งลูกน่าจะอยากมีสิ่งนี้ จึงเริ่มเขียนเป็นจดหมายทุกวันอาทิตย์ แต่ทำได้ราวแปดฉบับก็หยุดไป

จุดที่ Sam บอกว่าน่าสนใจที่สุดไม่ใช่เนื้อหาในจดหมาย แต่คือกรอบความคิดของการเขียนถึงลูก เพราะมันทำให้ซ่อนอยู่หลังอะไรไม่ได้เลย เมื่อรู้ตัวว่าแคร์มากว่าลูกจะคิดกับตัวเองอย่างไร การเขียนว่าเรื่องนี้เกิดขึ้นแล้วรู้สึกไม่ค่อยดีกับมัน จึงพ่วงประโยคว่าสัปดาห์หน้าน่าจะทำให้ต่างจากนี้มาโดยอัตโนมัติ Sam บอกว่าอาจหาทางกลับไปทำมันอีกครั้ง ก่อนที่ David จะสวนกลับว่าไม่ใช่อาจ แต่ต้องทำ

เมื่อวางทุกช่วงเรียงต่อกัน จะเห็นว่าคำตอบของ Sam ทั้งเรื่องผลิตภัณฑ์ เรื่องความปลอดภัย และเรื่องจดหมายถึงลูก วิ่งกลับไปหาหลักเดียวกันคือการไม่หลบความจริง สิ่งที่ทำให้บทสนทนานี้ควรฟังเต็มความยาว จึงไม่ใช่การประกาศแผนของบริษัท AI ที่ใหญ่ที่สุดในโลก แต่คือการได้ฟังคนที่นั่งอยู่ในห้องนั้นเมื่อสิบปีก่อนโดยไม่รู้ว่าต้องทำอะไรต่อ กลับมาอธิบายว่าทำไมคำตอบที่ถูกยังเป็นการปล่อยของออกไปแล้วเรียนรู้จากความเป็นจริง ทั้งกับผลิตภัณฑ์ กับความปลอดภัย และกับตัวเอง

ที่มา: The David Senra Podcast