คนคอมพิวเตอร์

คลัสเตอร์ : ซุปเปอร์คอมพิวเตอร์ส่วนตัว[1]

Posted on: สิงหาคม 15, 2009

หน้าแรก สารบัญ เกี่ยวกับบล็อกนี้ เกี่ยวกับผู้เขียน

คลัสเตอร์ : ซุปเปอร์คอมพิวเตอร์ส่วนตัว[1]

จะเสียเงินหลายร้อยล้านซื้อซุปเปอร์คอมพิวเตอร์ไปทำไม ในเมื่อคุณสร้างเองได้โดยใช้เงินเพียงเสี้ยวเดียว

ลาภลอย วานิชอังกูร (laploy.com)

 

“เราเปลี่ยนจาก SGI (ซิลิคอนกราฟิก) มาใช้เครื่องเอทลอนและระบบปฏิบัติการลินุกซ์หมดแล้ว” ไมค์ ทอมป์สัน ผายมือไปยังห้องโถงขนาดใหญ่ เต็มไปด้วยคอมพิวเตอร์เรียงรายอยู่นับพันๆ เครื่อง นี่คือ “เดทธ์สตาร์” ศูนย์คอมพิวเตอร์เพื่อการสร้างภาพสามมิติสำหรับภาพยนตร์ หรือ “เรนเดอร์ฟาร์ม” ของบริษัท ไอเอลเอ็ม (Industrial Light & Magic) ผู้อยู่เบื้องหลังการสร้างภาพมายาของภาพยนตร์ดังๆ เกือบทุกเรื่องเช่น แฮรรีพ็อตเตอร์ สตาร์วอร์ส ไพเรตออฟเดอะคาริเบียน และอีกนับไม่ถ้วน

ไมค์ ทอมป์สัน เป็นเจ้าหน้าที่ผู้พัฒนาระบบคอมพิวเตอร์ ประจำอยู่ที่ศูนย์คอมพิวเตอร์ ของไอเอลเอ็ม ซึ่งอยู่ในนิคมศิลปะดิจิตอลเลตเตอร์แมน ศูนย์แห่งนี้มีสภาพเหมือนวิทยาเขต รวมบริษัทในเครือไว้ทั้งหมด เช่นลูคัสอาร์ต และลูคัสฟิลม์ “ก่อนหน้านี้เราใช้โปรเซสเซอร์ทั้งหมด 1,500 โหนด ต่อมาก็เพิ่มเป็นสามพันโหนดตอนสร้างภาพยนตร์เรื่อง สตาร์วอร์ส อิพิโสดสาม และเพิ่มความเร็วการเชื่อมต่อจาก 100BASE-TX ไปเป็นสิบกิกกะบิต ปัจจุบันมีข้อมูลวิ่งในฟาร์มวันละ 70 เทราไบต์” เมื่อถูกถามเกี่ยวกับซอฟต์แวร์ที่ใช้ ทอมป์สัน ตอบเพียงสั้นๆ ว่า เป็นการผสมผสานระหว่างมายาและซอฟติเมจ ส่วนตัวจัดคิวเรนเดอร์ภาพ ใช้โปรแกรม ObaQ (Object oriented Batch and Queuing framework เฟรมเวิร์คจัดการระบบคิวแบบวัตถุวิธี) ที่พัฒนาขึ้นเองในลินุกซ์”

 

ในภาพยนตร์เรื่อง ไพเรตออฟเดอะคาริเบียน บริษัทดีสนีย์ ว่าจ้างบริษัท ไอเอลเอ็ม ให้เปลี่ยนใบหน้านักแสดงให้กลายเป็นปีศาจโจรสลัดที่มีหนวดเหมือนปลาหมึก

ภาพ 008 : สภาพภายใน เดทธ์สตาร์ สัญลักษณ์เหมือนดาวในธงชาติยิวบนตู้โครงเหล็กอันที่จริงคือสัญลักษณ์ของฝ่ายจักรวรรดิ

ภาพ 009 : คอมพิวเตอร์แบบ SGI ที่เคยสร้างมนต์ขลังบนจอเงินมานานนับทศวรรษ บัดนี้กลับถูกทอดทิ้งไร้คนเหลียวแล นักสร้างภาพมายาหันไปใช้พีซีธรรมดาซึ่งมีประสิทธิภาพสูงกว่า แถมมีราคาถูกกว่าหลายเท่าตัว

ภาพ 010 : “ท่านเกจิโยดา” ถูกสร้างขึ้นทีละเฟรมในคอมพิวเตอร์ โดยศิลปินผู้มีฝีมือของไอเอลเอ็ม

ภาพ 011 : โปรแกรม ObaQ (Object oriented Batch and Queuing framework เฟรมเวิร์คจัดการระบบคิวแบบวัตถุวิธี)

ห้องทดลองวิทยาศาสตร์ ศูนย์คอมพิวเตอร์ ผู้ให้บริการอินเตอร์เน็ต และนักสร้างภาพมายา ได้สนุกกับคลัสเตอร์มานานแล้ว บัดนี้ถึงเวลาที่เรา ผู้ใช้ตามบ้าน จะได้ลิ้มรสความสนุกเช่นนั้นบ้าง บทความนี้ผู้เขียนจะแนะนำให้ท่านรู้จักกับการนำคอมพิวเตอร์มาต่อเชื่อมกันเป็นกลุ่ม เพื่อทำงานแบบคู่ขนาน การทำ High-availability การทำ load balancing คลัสเตอร์แบบเบวูฟ คลัสเตอร์ที่สร้างจาก blade คลัสเตอร์แบบพกพา วิธีสร้างลินุกซ์คลัสเตอร์ และวิธีสร้างวินโดวส์คลัสเตอร์

 

กระจุกคอมพ์

นักดูดาวทุกคนรู้จักกระจุกดาวหรือ คลัสเตอร์ (starts cluster) ในวงการคอมพิวเตอร์คำว่า คลัสเตอร์ จะหมายถึงการนำคอมพิวเตอร์หลายๆ เครื่อง มาต่อเชื่อมเข้าด้วยกันอย่างหลวมๆ เพื่อให้ทำงานเป็นระบบเดียวกัน โดยมีจุดมุ่งหมายเพื่อต้องการเพิ่มประสิทธิภาพ เพิ่มความเร็ว เพิ่มความเชื่อถือได้ หรือทั้งหมดรวมกัน เราเรียกคอมพิวเตอร์หนึ่งเครื่องในคลัสเตอร์ว่า โหนด โดยปรกติแล้วการเชื่อมต่อระหว่างโหนดจะใช้ระบบเครือข่ายท้องถิ่นความเร็วสูง การทำ คลัสเตอร์ ช่วยให้เราได้คอมพิวเตอร์ที่มีประสิทธิภาพระดับซุปเปอร์คอมพิวเตอร์ ในราคาสบายกระเป๋า คลัสเตอร์มีหลายแบบ หรือหลายคลาส เช่น ฮา, เอชพีซี, โหลดบาลานซ์ซิง เบวูฟ และกริดคอมพิวติง

 

คลัสเตอร์ขนาด 64 โหนดสร้างจากพีซีธรรมดา ที่ศูนย์อวกาศกอดดาร์ด

 

ประสิทธิภาพดีต้องมีฮา

มีการคิดกันว่าน่าจะเอาคอมพิวเตอร์หลายๆ เครื่องมาต่อกันเป็นระบบ โดยหวังว่าหากเกิดการชำรุด ผู้ใช้ก็จะยังสามารถใช้งานระบบได้ เพราะคอมพิวเตอร์ไม่น่าจะเกิดเสียขึ้นมาทีเดียวได้พร้อมกันหมดทุกเครื่อง หลักการนี้เรียกว่า หลักการพร้อมใช้งานสูง (High-availability หรือHA) การทำฮามีแนวคิดเหมือนการทำ RAID (เรดฮาร์ดดิสก์) คือมีเครื่องให้มากเผื่อเหลือเผื่อขาดไว้ ปรกติ HA จะประกอบด้วยคอมพิวเตอร์เพียงสองโหนด และใช้ซอฟต์แวร์ฟรีอย่าง ลินุกซ์-ฮา หรือซอฟต์แวร์เชิงพานิชย์อื่นๆ เช่น MSCS ของไมโครซอฟต์

 

แผนภูมิแสดงตัวอย่างการทำฮา

 

เกลี่ยให้ทั่ว

อีกหลักการหนึ่งที่ใช้มากในการทำคลัสเตอร์ คือหลักการเฉลี่ยหรือกระจายงาน เพื่อให้โหนดหนึ่งๆ ไม่ทำงานมากหรือน้อยกว่าโหนดอื่นๆ เรียกว่า โหลดบาลานซ์ (load balancing) เป็นหลักการทำงานที่พบได้ทั่วไปในฟาร์มแม่ข่าย ระบบนี้ประกอบด้วยแม่ข่ายเสมือน หรือ VIP ซึ่งประกอบด้วยหมายเลขไอพีและพอร์ทจำนวนมาก VIP จะถูกนำไปเชื่อมโยงกับงาน หรือคอมพิวเตอร์ที่เฉพาะเจาะจงในฟาร์ม เมื่อโปรแกรมไคลเอนขอรับบริการจากแม่ข่าย ไคลเอนจะติดต่อผ่าน VIP ซึ่งจะนำคำขอไปวิ่งในแม่ข่ายที่กำหนด VIP จึงทำหน้าที่เหมือนผู้จัดการ ที่คอยบริหารดูแลให้แม่ข่ายในฟาร์มทำงานได้อย่างมีประสิทธิภาพ

 

แผนภูมิแสดงตัวอย่างการทำโหลดบาลานซ์

 

คลัสเตอร์ประสิทธิภาพสูง

คลัสเตอร์แบบประสิทธิภาพสูง (High-performance computing หรือ HPC) เน้นการนำงานเดียวมากระจายให้ทำงานโหนดต่างๆ เป็นคลัสเตอร์แบบที่พบมากในงานวิจัยทางวิทยาศาสตร์ ซอฟต์แวร์ที่ใช้จึงมักเป็นซอฟต์แวร์ทำขึ้นเฉพาะ เพื่อหวังประโยชน์จากการประมวลผลแบบคู่ขนาน HPC เน้นการทำงานร่วมกันระหว่างโหนดด้วย เพราะบ่อยครั้งที่โหนดหนึ่งต้องรอผลลัพธ์จากโหนดอื่นจึงจะทำงานต่อไปได้

มีคลัสเตอร์ HPC ที่ได้รับความนิยมหลายแบบ ที่รู้จักกันมากสุดคือแบบ เบวูฟ (Beowulf) ซึ่งใช้ระบบปฏิบัติการลินุกซ์ ส่วนบริษัทไมโครซอฟต์ก็มี HPC ด้วยเช่นกัน มีชื่อว่าไมโครซอฟต์คลัสเตอร์เซอร์วิส หรือ MSCS ซึ่งเป็นส่วนหนึ่งของระบบปฏิบัติการวินโดวส์เซอร์ฟเวอร์

 

 

High-performance computing หรือ HPC ที่มหาวิทยาลับมิสซิสซิปปีคำนวณได้เร็ว 10 ล้านล้านครั้งต่อวินาที (10TB)

 

MSCS

MSCS หรือ ไมโครซอฟต์คลัสเตอร์เซอร์วิส เป็นซอฟต์แวร์สำหรับสร้างคลัสเตอร์ที่มีโหนดได้ไม่เกินสองโหนด เมื่อติดตั้งแล้วลูกข่ายจะมองเห็นว่าคอมพิวเตอร์สองตัวเป็นเซอร์ฟเวอร์เพียงตัวเดียว เมื่อโหนดใดโหนดหนึ่งเสีย หรือถูกปิด อีกโหนดหนึ่งจะรับหน้าที่แทน ผู้ใช้งานจึงสามารถใช้งานได้อย่างต่อเนื่อง โหนดทั้งสองโหนดจะต้องวิ่งระบบปฏิบัติการเดียวกัน คือ วินโดวส์เอ็นที เซอร์ฟเวอร์ 4.0 หรือ วินโดวส์ 2000 แอดวานซ์ เซอร์ฟเวอร์ ส่วน วินโดวส์ 2000 ดาต้าเซนเตอร์ เซอร์ฟเวอร์ จะมีโหนดได้สูงสุดถึงสี่โหนด

 

ตัวอย่างการใช้ MSCS ทำคลัสเตอร์เป็นเซอร์ฟเวอร์เสมือนสามตัว คือ A, B และ C

 

กริดคอมพิวติง

กริดคอมพิวติง คล้ายการทำคลัสเตอร์ แตกต่างกันตรงที่ คลัสเตอร์จะเป็นกลุ่มคอมพิวเตอร์ที่เหมือนๆ กันและรวมศูนย์อยู่ด้วยกัน ทำงานร่วมกันเหมือนเป็นคอมพิวเตอร์ขนาดใหญ่เครื่องเดียว ส่วนกริด จะเป็นคอมพิวเตอร์สารพัดชนิดและขนาด กระจายอยู่ทั่วไป ยกตัวอย่างกริดคอมพิวติง คือ โครงการเซติที่บ้าน (SETI@home) เป็นโครงการที่ค้นหามนุษย์ต่างดาวด้วยการรับสัญญาณต่างดาวด้วยจานวิทยุโทรทัศน์ เป็นกริดคอมพิวติงขนาดใหญ่ที่สุดในโลก เพราะมีผู้ใช้คอมพิวเตอร์ตามบ้านถึงสามล้านรายทั่วโลกเข้าร่วมโครงการเพื่อช่วยกันวิเคราะห์สัญญาณ อีกตัวอย่างหนึ่งของกริดคือโปรแกรมจัดการฐานข้อมูลของบริษัท ออราเคิล มีรุ่นที่สนับสนุนการใช้งานกริด

 

โปรแกรม SETI@home ทำงานในระบบปฏิบัติการลินุกซ์ ใช้เพื่อค้นหาสติปัญญาที่อยู่ในดาวเคราะห์ดวงอื่น

 

เพื่อนกันกับแรกนารอก

โศลกเก่าแก่ของอังกฤษ เกี่ยวกับตำนานไวกิ้งซึ่งเป็นที่รู้จักดี นอกจากจะมีเรื่อง แรกนารอก (Ragnarok) แล้ว ยังมีเรื่องของ เบวูฟ (Beowulf) กษัตริย์หาญกล้าผู้ทรงยึดมั่นในสัตย์สาบานด้วยอีกเรื่องหนึ่ง แต่ในแวดวงนักสร้างคลัสเตอร์ เบวูฟ มีความหมายอย่างอื่นด้วย มันหมายถึงสถาปัตยกรรมที่ใช้คอมพิวเตอร์หลายๆ ตัว มาประกอบกันเข้าเพื่อให้ประมวลผลแบบขนาน สถาปัตยกรรมนี้ประกอบด้วยแม่ข่ายหนึ่งหรือหลายๆ ตัว และลูกข่ายหนึ่งหรือหลายๆ ตัว เชื่อมต่อกันด้วยอีเธอร์เน็ต

 

   กษัตริย์เบวูฟในตำนานเก่าแก่ของอังกฤษ

 

เบวูฟไม่เหมือนคอมพิวเตอร์หลายๆ เครื่องที่นำมาเชื่อมกันด้วยระบบแลนอย่างในอินเตอร์เน็ตคาเฟ่ เพราะเบวูฟจะทำ

งานเหมือนเป็นคอมพิวเตอร์ตัวเดียว คอมพิวเตอร์ที่เป็นโหนดในระบบจะไม่มีแป้นพิมพ์ เมาส์ และจอภาพ มีสถานะเป็นเพียงกล่องที่มีซีพียูและหน่วยความจำ คือเป็นเพียงอุปกรณ์ชิ้นหนึ่งในระบบเท่านั้น

เบวูฟ เป็นวิธีง่ายที่สุดในการสร้างคอมพิวเตอร์ที่มีพลังการประมวลผลระดับซุปเปอร์คอมพิวเตอร์ด้วยตนเอง เป็นระบบที่ถูกสร้างจากอุปกรณ์พื้นๆ เช่นเครื่องพีซีธรรมดาที่สามารถวิ่งระบบปฏิบัติการลินุกซ์ได้ เชื่อมต่อกันด้วยการ์ดแลนและแลนสวิทช์ธรรมดา ไม่มีฮาร์ดแวร์พิเศษพิสดารใดๆ ซอฟต์แวร์ก็หาได้ง่ายและฟรี จึงเป็นระบบที่ผู้ใช้ตามบ้านสามารถสร้างเองได้อย่างสบาย

โหนดที่เป็นแม่ข่าย จะทำหน้าที่ควบคุมคลัสเตอร์ และจ่ายแฟ้มข้อมูลให้โหนดที่เป็นลูกข่าย และยังทำหน้าที่เป็นเครื่องที่มีหน้าจอควบคุม และเป็นช่องทางติดต่อกับเครือข่ายอื่นๆ (network gate way) คลัสเตอร์เบวูฟขนาดใหญ่อาจมีแม่ข่ายมากกว่าหนึ่งตัว โดยแม่ข่ายแต่ละตัวจะถูกกำหนดให้มีหน้าที่แตกต่างกัน ยกตัวอย่างเข่น แม่ข่ายตัวหนึ่งอาจถูกใช้เป็นหน้าจอตรวจสอบสถานะของคลัสเตอร์ ขณะที่แม่ข่ายอีกตัวทำหน้าที่เป็นช่องทางติดต่อกับเครือข่ายอื่นๆ ส่วนโหนดที่เป็นลูกข่ายมักถูกทำให้โง่เข้าไว้ ยิ่งโงมากยิ่งดี คือไม่ต้องคิดอะไรมาก มีหน้าที่คอยรับคำสั่งจากแม่ข่ายเท่านั้น

 

เบวูฟที่สร้างขึ้นใช้ภายในบ้านมักประกอบด้วยฮาร์ดแวร์คละแบบ

 

ซอฟต์แวร์ของเบวูฟ

การสร้างเบวูฟไม่จำเป็นต้องใช้ซอฟต์แวร์พิเศษ ใช้เพียงลินุกซ์ดิสทริบิวชัน (ดิสโทร) มาตรฐานก็พอ วิธีทำเบวูฟอย่างง่ายที่สุดคือนำคอมพิวเตอร์มาสองเครื่อง เชื่อมต่อกันด้วยอีเทอร์เน็ต แล้วกำหนดให้แชร์ /home ในระบบไฟล์ NFS จากนั้นกำหนดให้ทั้งสองเครื่องทำงานกับรีโหมดเชล (remote shells หรือ rsh) เดียวกัน เพียงเท่านี้ก็ถือว่าได้เบวูฟระดับพื้นฐานแล้ว

 

คมยิ่งกว่าดาบ

เครื่องคอมพิวเตอร์ตามคติของ ทัวริง มีส่วนประกอบหลักเพียงสามส่วน คือหน่วยความจำ หน่วยประมวลผล และหน่วยเก็บผลลัพธ์ คอมพิวเตอร์ที่เราใช้กันในปัจจุบันก็เป็นแบบทัวริง แต่เพิ่มสิ่งจำเป็นในการใช้งานประจำวันเข้าไป เช่น ส่วนเชื่อมต่อแผ่นจานแม่เหล็ก หน่วยจ่ายกำลังไฟ ส่วนเชื่อมต่อเครือข่าย ส่วนเชื่อมต่อกับมนุษย์ เช่น เมาส์ แป้นพิมพ์ กล้องเว็บแคม ฯลฯ สิ่งต่างๆ เหล่านี้ไม่ใช่องค์ประกอบพื้นฐานของคอมพิวเตอร์

มีผู้คิดสร้างเครื่องคอมพิวเตอร์แม่ข่าย (sever) ที่เรียกว่า บเลด (blade) ที่ตัดอุปกรณ์ไม่เกี่ยวข้องออกหมด เหลือเพียงส่วนประกอบตามแบบ ทัวริง ออกแบบให้มีขนาดพอดีใส่ได้ในตู้โครงเหล็กมาตรฐาน (rack-mount แบบ U1) คือกว้างสิบเก้านิ้ว สูง 1.75 นิ้ว ทำให้บรรจุ บเลด ได้ถึงหนึ่งร้อยชุดเข้าในตู้โครงเหล็กเพียงตู้เดียวได้ เนื่องจาก บเลด มีทุกอย่างอยู่พร้อม เพียงเสียบสายจ่ายกำลังไฟฟ้า และสายเชื่อมต่อเครือข่ายก็ทำงานได้ บเลด มักถูกนำไปใช้โดยผู้ให้บริการอินเตอร์เน็ต และผู้สร้างคลัสเตอร์ เพราะกะทัดรัดและมีความคล่องตัวสูง เราสามารถถอด บเลด ออกจากระบบได้โดยไม่ต้องปิดไฟ (hot-swappable) การเพิ่ม-ลด จำนวนโหนด และการซ่อมบำรุงจึงทำได้สะดวกมาก

 

เบลดยี่ห้อบรอดเบอร์รี ใช้ซีพียูอินเทลซีนอน

 

โปรดติดตามตอนจบ

ใส่ความเห็น

เกี่ยวกับบล็อกนี้

เว็บบล็อก “คนคอมพิวเตอร์” หรือ Laploy’s articles เป็นบล็อกรวบรวมบทความจาก ลาภลอย วานิชอังกูร มีบทความหลายประเภทคละกัน เช่นบทความเกี่ยวกับการพัฒนาซอฟต์แวร์ บทความเกี่ยวกับการสร้างและดัดแปลงฮาร์ดแวร์ บทความเกี่ยวกับเทคโนโลยีคอมพิวเตอร์ทั่วไป บทความทั่วไป และนิยายนักสืบ

เกี่ยวกับผู้เขียน

ลาภลอย วานิชอังกูร เป็นผู้เชี่ยวชาญการพัฒนาแอพลิเกชันฐานข้อมูลและ Business Intelligence โดยเริ่มจากการพัฒนาโปรแกรมด้วย dBaseII, Clipper, FoxPro ปัจจุบันเป็นผู้เชี่ยวชาญในการบูรณาการระบบฐานข้อมูลด้วยเทคโนโลยีของไมโคร ซอฟต์เช่น ASP.NET, ADO.NET, Microsoft SQL Server 2008 และ LINQ ชำนาญการเขียนคิวรีเพื่อแก้ปัญหาทางธุรกิจที่ซับซ้อน Data mining, Data Warehouse, OLAP (SSRS), OLTP เคยออกแบบฐานข้อมูลสัมพันธ์ในองค์กรระหว่างประเทศ เคยพัฒนาแอพลิเกชันฐานข้อมูลในโครงการขนาดใหญ่หลายโครงการ และเคยให้คำปรึกษาด้าน BI ในศูนย์คอมพิวเตอร์ (T-Center) ในองค์กรของประเทศฝรั่งเศส
นอกจากงานฐานข้อมูลแล้ว ลาภลอย วานิชอังกูร ยังเชี่ยวชาญการพัฒนาซอฟต์แวร์ระบบฝังตัว (Microprocessor / Microcontroller Based Embedded System) งานพัฒนาแอพลิเกชันในอินเตอร์เน็ตแบบ RIA (Rich Internet Application) งานพัฒนาโครงสร้างพื้นฐานของซอฟต์แวร์ด้วยหลักการ OOP (Framework Development in Object Oriented Programming) ด้วยภาษา C# และ .NET Framework และงานบูรณาการระบบในองค์กรหรือ SOA (Service Oriented Architecture for Enterprise Orchestration) เคยร่วมงานกับทีมพัฒนาซอฟต์แวร์ในหลายๆ ประเทศ เช่น ไทย อินเดีย สวิส เยอรมัน และประเทศสหรัฐอเมริกา
ปัจจุบัน ลาภลอย วานิชอังกูร ทำหน้าที่ให้คำปรึกษาการวางระบบ IT (เช่น SQL, OLAP,.NET, SCADA, BI, SOA และอื่นๆ) ให้แก่หน่วยงานขนาดใหญ่หลายแห่ง และมีบทความทางวิชาการตีพิมพ์ในวารสารหลายเล่มอย่างสม่ำเสมอ และเป็นผู้เขียนหนังสือ "เรียนรู้ด้วยตนเอง DataBase - Query - T-SQL - Stored Procedure" และ “เรียนรู้ด้วยตนเอง OOP C# ASP.NET” (ISBN 13:978-974-212-598-1)
ท่านสามารถติดต่อผู้เขียนได้ที่อีเมล laploy@gmail.com

เรียนรู้ด้วยตนเอง OOP C# ASP.NET

ชื่อหนังสือ : เรียนรู้ด้วยตนเอง OOP C# ASP.NET โดย : ลาภลอย วานิชอังกูร จัดพิมพ์จัดจำหน่ายโดย : บริษัท ซีเอ็ดยูเคชั่น จำกัด (มหาชน) ISBN : 13:978-974-212-598-1 ราคา : 349 บาท จำนวนหน้า : 648 ขนาด : 19x29 ซ.ม.

เรียนรู้ด้วยตนเอง DataBase – Query – T-SQL – Stored Procedure

ชื่อหนังสือ: เรียนรู้ด้วยตนเอง DataBase - Query - T-SQL - Stored Procedure โดย: ลาภลอย วานิชอังกูร จัดพิมพ์จัดจำหน่าย: บริษัท ซีเอ็ดยูเคชั่น จำกัด (มหาชน) ISBN: 978-616-08-0009-4 ราคา: 559 บาท จำนวนหน้า: 1,100 ขนาด: 19x29 ซ.ม. วางตลาด: ตุลา 2552

กรุณาป้อนอีเมลของท่าน

Join 17 other subscribers