สรุป Google Cloud Next ’23 วันที่ 1

GoPomelo รู้สึกยินดีเป็นอย่างยิ่งที่ได้เข้าร่วมงาน Google Cloud Next '23  งานใหญ่ประจำปีจาก Google Cloud จัดขึ้นที่ Moscone Center เมืองซานฟรานซิสโก ซึ่งเป็นงานที่มีการรวมตัวและพบปะกันครั้งใหญ่และครั้งแรกหลังจากปี 2019 งานเริ่มต้นด้วย keynote ที่น่าตื่นเต้นจาก Sundar Pichai  ผู้เป็น CEO ของ Google ซึ่งได้พูดถึงข้อมูลเกี่ยวกับการพัฒนาอันน่าทึ่งของเทคโนโลยี AI จาก Google เพื่อเพิ่มความรับผิดชอบและประสิทธิภาพในการใช้งานของพวกเขา หลังจากนั้น Thomas Kurian CEO ของ Google Cloud  ได้เผยแพร่ข้อมูลเกี่ยวกับวิธีที่ลูกค้าจะสามารถใช้ AI โครงสร้างพื้นฐาน (infrastructure) และเครื่องมือเพื่อปฏิวัติการดำเนินธุรกิจและให้ประสบการณ์ที่ไม่เหมือนใครให้กับลูกค้าของพวกเขา

อัปเดตโครงสร้างพื้นฐานและเครื่องมือใหม่ ๆ เพื่อลูกค้าของ Google

Google ได้ลงทุนอย่างมากในศูนย์ข้อมูลและเครือข่ายของเราในระยะเวลา 25 ปีที่ผ่านมาเพื่อสนับสนุนความสามารถขั้นสูงและการประยุกต์ใช้งานที่หลากหลายของ gen AI ด้วย Global network ของ Google ที่มีมากถึง 38 cloud regions เป้าหมายคือการทำงานด้วยพลังงานที่ปลอดคาร์บอนตลอด 24 ชั่วโมง ในปี 2030 เพื่อให้ได้โครงสร้างที่เรียบง่ายและมีประสิทธิภาพสูงสุดสำหรับ gen AI

โครงสร้างพื้นฐานที่ถูกปรับแต่งสำหรับ AI ของพวกเขาได้กลายเป็นตัวเลือกแห่งแรกสำหรับการฝึกอบรมและการให้บริการ gen AI models ในความเป็นจริงมีมากกว่า 70% ของ gen AI unicorns เช่น AI21, Anthropic, Cohere, Jasper, MosaicML, Replit, Runway และ Typeface เป็นลูกค้าของ Google Cloud อีกทั้ง ยังมีมากกว่าครึ่งหมื่นของ gen AI startups ที่ได้รับการสนับสนุนทางการเงินรวมถึง Copy.ai, CoRover, Elemental Cognition, Fiddler AI, Fireworks.ai, PromptlyAI, Quora, Synthesized, Writer, และอีกหลาย ๆ รายที่ขึ้นอยู่กับโครงสร้างพื้นฐานของ Google

เพื่อสนับสนุนลูกค้าอย่างต่อเนื่อง Google ได้ทำการประกาศข่าวสารเกี่ยวกับพัฒนาโครงสร้างหลัก ได้แก่:

• Cloud TPU v5e: ความก้าวหน้าล่าสุดในการเร่งความเร็วของ AI - Cloud TPU v5e เทคโนโลยีล้ำค่านี้นำเสนอความคุ้มค่า ความหลากหลาย และการขยายขอบเขตความสามารถ ด้วย Cloud TPU v5e ลูกค้าสามารถทำการฝึกอบรมและการทำนาย AI ในขอบเขตใหญ่บนแพลตฟอร์มเดียวกันได้อย่างราบรื่น เทคโนโลยีที่ทันสมัยนี้สามารถขยายอย่างเป็นจริงไปยังหลายหมื่นชิปและถูกปรับแต่งอย่างละเอียดเพื่อประสิทธิภาพสูงสุด เมื่อเปรียบเทียบกับ Cloud TPU v4 ของเวอร์ชันก่อนหน้า v5e มอบประสิทธิภาพในการฝึกตามราคาสูงสุดขึ้นถึง 2 เท่า และประสิทธิภาพในการทำนายถึง 2.5 เท่า

• A3 VMs พร้อม GPU NVIDIA H100: ในเดือนกันยายน องค์กรจะสามารถเข้าถึง A3 VMs ที่มี GPU NVIDIA H100 ซึ่งมีความสามารถในการเชื่อมต่อเครือข่ายขั้นสูงเฉพาะ โดยออกแบบมาเพื่อตอบสนองความต้องการของ gen AI และนวัตกรรม large language model (LLM) ที่ใช้เทคโนโลยีเครือข่ายที่สูง ด้วย VMs ความสามารถในการฝึกอบรมที่ดีกว่ารุ่นก่อนขึ้นถึง 3 เท่า

• GKE Enterprise: ด้วยการนำเสนอ multi-cluster horizontal scaling องค์กรสามารถสัมผัสประสิทธิภาพอันน่าทึ่งได้ถึง 45% และลดเวลาในการติดตั้งซอฟต์แวร์ได้มากกว่า 70% การอัปเดตล่าสุดนำเสนอการปรับสเกลแบบอัตโนมัติ การจัดการงานที่ง่ายขึ้นและการอัปเกรดอัตโนมัติสำหรับ Cloud TPU v5e ทำให้เป็นตัวเลือกที่เหมาะสมที่สุดสำหรับปริมาณงาน AI/ML ที่มีความสำคัญและความต้องการมากที่สุด

• Cross-Cloud Network: Cross-Cloud Network เป็นแพลตฟอร์มเครือข่ายโลกล้ำค่าที่เปลี่ยนแปลงวิธีลูกค้าเชื่อมต่อและรักษาความปลอดภัยของแอปพลิเคชันของพวกเขาในคลาวด์หลาย ๆ แห่ง สามารถให้โครงสร้างพื้นฐานที่เปิดใช้งานและถูกปรับแต่งด้วยความปลอดภัยขับเคลื่อนด้วย ML ทำให้มั่นใจในสภาพแวดล้อมที่ไม่น่าไว้วางใจ เนื่องจากการออกแบบนวัตกรรม Cross-Cloud Network ทำให้ง่ายต่อลูกค้าในการเข้าถึงบริการของ Google อย่างราบรื่นจากคลาวด์ใด ๆ ในขณะเดียวก็สามารถลดความล่าช้าของเครือข่ายลงถึง 35%

• Google Distributed Cloud: เพื่อรองรับความต้องการขององค์กรที่ต้องการเรียกใช้งานปลายทางหรือภายในศูนย์ข้อมูลของตนเอง Google กำลังนำเสนอการปรับปรุงคอลเล็คชั่น GDC รวมถึงฮาร์ดแวร์รุ่นล่าสุด ความสามารถในด้านความปลอดภัยขั้นสูง และการผสมผสานกับ Vertex AI อีกทั้ง Google ยังนำเสนอโซลูชันที่จัดการใหม่ที่เรียก AlloyDB Omni บน GDC Hosted ที่นำพลังงานของ AI ไปยังปลายทางตามที่กล่าวไว้ก่อนหน้านี้

เพิ่มขีดความสามารถของ Google's Vertex AI platform

นอกเหนือจากโครงสร้างพื้นฐานระดับโลกของเรา เรายังมอบสิ่งที่เราเชื่อว่าเป็นแพลตฟอร์ม AI ที่ครอบคลุมที่สุด - Vertex AI - ซึ่งช่วยให้ลูกค้าสร้าง ใช้งาน และสเกล machine learning (ML)  ได้ Google เห็นว่ามีการใช้งานเพิ่มขึ้นอย่างมหาศาล โดยจำนวนโครงการลูกค้า gen AI เพิ่มขึ้นกว่า 150 เท่าในช่วงเดือนเมษายน-กรกฎาคมในปีนี้ ลูกค้าสามารถเข้าถึงมากกว่า 100 โมเดลพื้นฐาน รวมถึง third-party และ open-source ใน Model Garden ทั้งหมดถูกปรับแต่งให้เหมาะสำหรับงานที่แตกต่างกันและขนาดที่แตกต่างกันรวมถึงข้อความ เเชท รูปภาพ คำพูด software code และอื่น ๆ Google ยังมีโมเดลสำหรับกลุ่มอุตสาหกรรม เช่น Sec-PaLM 2 สำหรับ cybersecurity เพื่อการให้บริการด้านความปลอดภัยระดับโลกอย่าง Broadcom และ Tenable; และ Med-PaLM 2 เพื่อช่วยบริษัทด้านด้านการดูแลสุขภาพและวิทยาชีวภาพชั้นนำเช่น Bayer Pharmaceuticals, HCA Healthcare และ Meditech

Vertex AI Search and Conversation ตอนนี้พร้อมใช้งานโดยทั่วไป ทำให้องค์กรสามารถสร้างแอปพลิเคชันสำหรับค้นหาและแชท โดยใช้ข้อมูลของพวกเขาในเพียงไม่กี่นาที โดยมีการเขียนโค้ดเพียงน้อยนิด มีการจัดการและความปลอดภัยในระดับองค์กร นอกจากนี้ Vertex AI Generative AI Studio ให้เครื่องมือที่ใช้งานง่ายในการปรับแต่งและกำหนดโมเดล ทั้งนี้มีการควบคุมระดับองค์กรสำหรับความปลอดภัยของข้อมูลรวมถึงเครื่องมือนักพัฒนาเช่น Text Embeddings API ซึ่งช่วยให้นักพัฒนาสร้างแอปพลิเคชันที่ซับซ้อนขึ้น โดยขึ้นอยู่กับความเข้าใของข้อความหรือภาพ และ Reinforcement Learning from Human Feedback (RLHF) ซึ่งรวมข้อมูลคำแนะนำจากมนุษย์เพื่อปรับแต่งและปรับปรุงประสิทธิภาพของโมเดลอย่างลึกลง

Google ประกาศเกี่ยวกับโมเดลและเครื่องมือใหม่ในแพลตฟอร์ม Vertex AI ดังนี้:

• การอัปเกรด PaLM 2, Imagen และ Codey: Google กำลังอัปเดต PaLM 2 เพื่อรองรับหน้าต่างคอนเทนต์ 32k เพื่อองค์กรสามารถประมวลผลเอกสารรูปแบบยาวเช่นงานวิจัยและหนังสือได้โดยง่าย รวมถึงการปรับปรุง Imagen ให้มีความน่าสนใจทางสายตาและรองรับภาษาใหม่ใน Codey

• เครื่องมือสำหรับปรับแต่ง: สำหรับ PaLM 2 และ Codey oyho Google กำลังทำ adapter tuning ให้สามารถใช้งานได้ทั่วไปและขณะนี้ยังอยู่ในรูปแบบพรีวิว ซึ่งสามารถช่วยปรับปรุงประสิทธิภาพ LLM ได้ด้วยข้อมูลตัวอย่างน้อยมากที่สุด 100 ตัวอย่าง Google ยังมีวิธีการปรับแต่งใหม่สำหรับ Imagen ที่เรียกว่า Style Tuning เพื่อให้องค์กรสามารถสร้างรูปภาพที่สอดคล้องกับข้อบังคับเฉพาะของแบรนด์หรือความต้องการสร้างสรรค์อื่น ๆ โดยรูปภาพอ้างอิง

• โมเดลใหม่: Google ประกาศให้ใช้งาน Llama 2 และ Code Llama จาก Meta, และ Falcon LLM จาก Technology Innovative Institute โดยเป็น open-source model ยอดนิยมและประกาศล่วงหน้าว่า Claude 2 จาก Anthropic ในกรณีของ Llama 2 จะเป็นผู้ให้บริการคลาวด์ที่ให้บริการทั้งการปรับแต่ง adapter และ RLHF

• ขยายขอบข่ายของ Vertex AI: นักพัฒนาสามารถเข้าถึง สร้าง และจัดการส่วนขยายที่ให้ข้อมูลแบบเรียลไทม์นำเสนอข้อมูลทันเหตุการณ์ผสานข้อมูลของบริษัทและดำเนินการแทนผู้ใช้ได้ นี่เป็นการเปิดโอกาสให้สร้างแอปพลิเคชัน gen AI ที่ไม่มีที่สิ้นสุดที่สามารถทำงานเป็นส่วนขยายขององค์กรของคุณ มีความสามารถในการเข้าถึงข้อมูลที่เป็นกรรมสิทธิ์และดำเนินการในแพลตฟอร์มบุคคลที่สาม เช่น ระบบ CRM หรืออีเมล

• Grounding: Google ประกาศบริการที่เชื่อมโยงระหว่างองค์กร เช่น Vertex AI foundation models, Search และ Conversation ที่ให้ลูกค้าสามารถเชื่อมต่อการตอบสนองกับข้อมูลขององค์กรเองเพื่อส่งผลให้ได้คำตอบที่แม่นยำมากขึ้น Google ยังทำงานร่วมกับลูกค้าบางรายในการทดสอบการใช้ระบบที่ใช้ใน Google Search

• Digital Watermarking บน Vertex AI: ด้วย Google DeepMind SynthID นี้มีเทคโนโลยีที่ทันสมัยที่ฝังรหัสลายน้ำโดยตรงลงในรูปภาพของพิกเซล ทำให้มองไม่เห็นสำหรับตามน้ำตาลและยากต่อการรังแกข้อมูลดิจิทัลลายน้ำ Digital watermarking ให้ลูกค้าสามารถสร้างและระบุรูปภาพที่สร้างโดย AI อย่างระมัดระวัง Google เป็นผู้ให้บริการคลาวด์เจ้าแรกที่มีการทำ AI-generated images

• Colab Enterprise: รวบรวมความง่ายในการใช้ Colab notebooks ของ Google รวมถึงความสามารถในการควบคุมความปลอดภัยและการปฏิบัติตามกฏระเบียบในระดับองค์กร Data scientists สามารถใช้ Colab Enterprise ในการทำงานร่วมกันเพื่อเร่งกระบวนการทำงาของน AI ด้วยการเข้าถึงระบบออนไลน์ของ Vertex AI ทั้งหมด การรวมระบบกับ BigQuery และ การสร้างและสรรหาโค้ดอย่างแม่นยำ

การควบคุมข้อมูลของคุณเป็นสิ่งที่สำคัญเท่ากับการค้นพบและฝึกฝนโมเดลที่เหมาะสม Google ออกแบบ Vertex AI ตั้งแต่ต้นเพื่อให้คุณควบคุมและแยกข้อมูลโค้ดและ IP ของคุณอย่างเต็มรูปแบบโดยไม่มีการรั่วไหลของข้อมูล เมื่อคุณปรับแต่งและฝึกโมเดลของคุณด้วย Vertex AI (ด้วยเอกสารส่วนตัวและข้อมูลจากแอปพลิเคชัน SaaS ฐานข้อมูลหรือแหล่งที่มีรักษาเอาไว้) คุณไม่ได้การเปิดเผยข้อมูลเหล่านั้นแก่โมเดลพื้นฐาน Google จะสร้างสกรีนช็อตของโมเดลอนุทิศ ทำให้คุณสามารถฝึกและจัดเก็บเฉพาะข้อมูลเหล่านั้นพร้อมกันแบบส่วนตัว ทำให้สามารถควบคุมข้อมูลของคุณเองได้อย่างสมบูรณ์ ข้อความและข้อมูลของคุณ รวมถึงการป้อนข้อมูลของผู้ใช้ จะไม่ถูกนำมาใช้เพื่อปรับปรุงโมเดล และลูกค้ารายอื่นก็จะไม่สามารถเข้าถึงได้เช่นกัน

Duet AI ใน Google Cloud

ในปัจจุบัน Duet AI ใน Google Workspace พร้อมใช้งานแล้ว และกำลังขยายความสามารถในการแสดงตัวอย่างของ Duet AI ใน Google Cloud โดยจะพร้อมให่ใช้งานภายในปีนี้

นอกเหนือจากความสามารถของ Duet AI บน Google Workspace นั้น Duet AI ได้ขยายกรอบการให้ความช่วยเหลือ AI ในผลิตภัณฑ์และบริการต่าง ๆ ของ Google Cloud นี้ ซึ่งทำหน้าที่เป็นผู้ช่วยในการเขียนโค้ดสำหรับนักพัฒนา โดยนำเสนอโซลูชั่นการเขียนโค้ดที่รวดเร็วยิ่งขึ้น นอกจากนี้ยังทำหน้าที่เป็นที่ปรึกษาขั้นสูงที่ช่วยให้ผู้ดำเนินงานแก้ปัญหาปัญหาของแอปพลิเคชันและโครงสร้างในเวลาอันรวดเร็ว นอกจากนี้ Duet AI ยังทำหน้าที่เป็นนักวิเคราะห์ข้อมูลโดยให้การวิเคราะห์ข้อมูลอย่างรวดเร็วและมีประสิทธิภาพ และเป็นที่ปรึกษาด้านความปลอดภัยโดยแนะนำวิธีการที่ดีที่สุดในการป้องกันอุปสรรคด้านความปลอดภัย

ความคุ้มค่าของ Duet AI ใน Google Cloud ได้ถูกยอมรับแล้วจากลูกค้า เช่น L'Oréal ซึ่งสามารถตัดสินใจทางธุรกิจที่ดีขึ้นและเร็วขึ้น โดยใช้ข้อมูลของพวกเขาเอง การทดสอบต้นเบื้องต้นโดย Turing แสดงให้เห็นว่าผลผลิตทางวิศวกรรมเพิ่มขึ้นเป็นหนึ่งในสาม

ประกาศล่าสุดเกี่ยวกับ Duet AI ใน Google Cloud:

• การพัฒนาซอฟต์แวร์: Duet AI เป็นเพื่อนที่เชื่อถือในระหว่างการพัฒนาซอฟต์แวร์ของคุณ ช่วยให้นักพัฒนาสามารถโฟกัสและรักษาประสิทธิภาพได้โดยลดความจำเป็นในการสลับบริบท นอกเหนือจากการให้โค้ดที่สมบูรณ์และการสร้างโค้ดแล้ว Duet AI ยังช่วยเร่งความทันสมัยของแอปพลิเคชันโดยเสนอคำแนะนำเกี่ยวกับการปรับโครงสร้างโค้ดใหม่ นอกจากนี้ Duet AI ที่ผนวกเข้ากับ Apigee ช่วยให้นักพัฒนาสร้าง API และการรวมเข้ากับคำถามของภาษาธรรมชาติได้อย่างง่ายดาย มาสัมผัสความเปลี่ยนแปลงทางการได้จาก Duet AI ในการปรับปรุงกระบวนการพัฒนาซอฟต์แวร์ของคุณ

• การดำเนินงานแอปพลิเคชันและโครงสร้าง: ผู้ดำเนินการมีโอกาสที่น่าทึ่งในการเข้าสู่การสนทนาภาษาอย่างเป็นธรรมชาติกับ Duet AI ในบริการต่าง ๆ ใน Google Cloud Console การโต้ตอบที่ราบรื่นนี้ช่วยให้ผู้ปฏิบัติงานสามารถเข้าถึงข้อมูล "วิธีการ" อันมีค่าเกี่ยวกับการกำหนดค่าโครงสร้างพื้นฐาน แนวปฏิบัติที่ดีที่สุดในการใช้งาน และรับคำแนะนำจากผู้เชี่ยวชาญในการเพิ่มประสิทธิภาพต้นทุนและประสิทธิภาพ บอกลาการค้นหาที่ใช้เวลานาน และพบกับการดำเนินงานที่มีประสิทธิภาพและประสิทธิผลด้วย Duet AI ที่เป็นแนวทางที่เชื่อถือได้ของคุณ

• การวิเคราะห์ข้อมูล: Duet AI ใน BigQuery ปฏิวัติการวิเคราะห์ข้อมูลโดยให้การสนับสนุนตามบริบทสำหรับการสร้างคำสั่ง SQL และโค้ด Python เป็นมากกว่าคำแนะนำง่าย ๆ โดยนำเสนอฟังก์ชันและบล็อคโค้ดที่ครอบคลุม รวมถึงการอธิบายคำสั่ง SQL ในภาษาธรรมดา นอกจากนี้ Duet AI ยังใช้ประโยชน์จาก schema และ metadata ของคุณ เพื่อสร้างคำแนะนำเฉพาะบุคคล ความสามารถขั้นสูงเหล่านี้ช่วยให้ทีมข้อมูลมุ่งเน้นไปที่การขับเคลื่อนผลลัพธ์ที่มีผลกระทบต่อธุรกิจของตน

• การเร่งความเร็วและการทันสมัยของฐานข้อมูล: Duet AI ผสานรวมกับ Cloud Spanner, AlloyDB และ Cloud SQL ได้อย่างราบรื่น เพื่อเสริมศักยภาพผู้ใช้ในการสร้างโค้ดที่จัดโครงสร้าง แก้ไข หรือสืบค้นข้อมูลโดยใช้ภาษาธรรมชาติ ประสิทธิภาพของมันขยายไปถึง Database Migration Service (DMS) ซึ่งทำให้การแปลงโค้ดฐานข้อมูลที่ซับซ้อนเป็นอัตโนมัติ รวมถึงขั้นตอนการจัดเก็บ ฟังก์ชัน ทริกเกอร์ และแพ็คเกจ ซึ่งก่อนหน้านี้การแปลงโดยใช้เทคโนโลยีการแปลแบบดั้งเดิมนั้นทำได้ยาก

• การดำเนินงานด้านความปลอดภัย: Google เปิดตัว Duet AI เพื่อปรับปรุงชุดผลิตภัณฑ์รักษาความปลอดภัย รวมถึง Chronicle Security Operations, Mandiant Threat Intelligence และ Security Command Center ซึ่งจะช่วยให้ผู้เชี่ยวชาญด้านความปลอดภัยสามารถป้องกันภัยคุกคามในเชิงรุก ปรับปรุงขั้นตอนการทำงานด้านความปลอดภัย และยกระดับความเชี่ยวชาญของพวกเขา

Duet AI เป็นมากกว่าการให้คำแนะนำและคำแนะนำจากผู้เชี่ยวชาญ โดยใช้ประโยชน์จากประสิทธิภาพของโมเดล PaLM 2 LLM และใช้ประโยชน์จากเนื้อหาเฉพาะของ Google Cloud รวมถึงเอกสารประกอบ โค้ดตัวอย่าง และแนวทางปฏิบัติ เพื่อมอบข้อมูลเชิงลึก ด้วยการมุ่งเน้นที่การปกป้องความปลอดภัยและความเป็นส่วนตัวของลูกค้า ตลอดจนการปฏิบัติตามหลักการ AI Duet AI จึงมั่นใจได้ว่าข้อมูลของคุณยังคงเป็นของคุณแต่เพียงผู้เดียว มั่นใจได้ว่าโค้ดของคุณ และคำแนะนำที่สร้างโดยระบบจะไม่ถูกนำมาใช้ในการฝึกโมเดลที่ใช้ร่วมกันหรือพัฒนาผลิตภัณฑ์ใด ๆ

Google Cloud Next ’2 วันที่ 1 โดยสรุป

Google เป็นองค์กรแถวหน้าในยุคสมัยของการเปลี่ยนแปลงทางดิจิทัล ซึ่งขับเคลื่อนโดยพลังของ Gen AI เทคโนโลยีที่ปฏิวัติวงการนี้กำลังเปลี่ยนแปลงวิธีการทำธุรกิจและวิธีที่ผู้คนสื่อสารกัน รวมถึงการเปลี่ยนแปลงอุตสาหกรรมด้านสุขภาพ ช่วยให้แพทย์สามารถดูแลผู้ป่วยได้ดียิ่งขึ้น เป็นการเปลี่ยนแปลงการสื่อสาร ทำให้ผู้คนเชื่อมต่อและทำงานร่วมกันได้ง่ายขึ้น และยังเป็นการยกระดับความปลอดภัยในสถานที่ทำงานอีกด้วย ทำให้มั่นใจได้ว่าพนักงานจะได้รับการคุ้มครอง อย่างไรก็ตามนี่เป็นเพียงจุดเริ่มต้นเท่านั้น สามารถติดตามการอัปเดตเพิ่มเติม และอย่าลังเลที่จะปรึกษาผู้เชี่ยวชาญของเราเพื่อปลดล็อกศักยภาพสูงสุดของ Gen AI