H Microsoft παρουσιάζει το πρώτο της τσιπ για τεχνητή νοημοσύνη μαζί με ένα τσιπ που βασίζεται στην πλατφόρμα ARM για υπολογιστικές εργασίες γενικής χρήσης στο cloud. Και τα δύο θα έρθουν στο Azure cloud της Microsoft, ανέφερε η Microsoft στο συνέδριο Ignite στο Σιάτλ.
Το πρώτο, το τσιπ τεχνητής νοημοσύνης Maia 100, θα ανταγωνιστεί τα περιζήτητα τσιπ H100 της Nvidia για ΑΙ ενώ το δεύτερο, το Cobalt 100 ARM, στοχεύει σε γενικές υπολογιστικές εργασίες και αποτελεί άλλο έναν πονοκέφαλο για την Intel, η οποία βλέπει όλο και περισσότερες μεγάλες τεχνολογικές εταιρείες Software και Cloud να εισέρχονται στην αγορά της.
Τα τσιπ Cobalt θα γίνουν εμπορικά διαθέσιμα μέσω του Azure cloud της Microsoft το 2024, δήλωσε ο Rani Borkar, εταιρικός αντιπρόεδρος, σε συνέντευξή του στο CNBC ενώ δεν έδωσε χρονοδιάγραμμα για την κυκλοφορία του Maia 100. Η εταιρεία δημιούργησε το τσιπ της για υπολογιστές AI με βάση τα σχόλια των πελατών, εξήγησε ο Borkar με την Microsoft να δοκιμάζει τον τρόπο με τον οποίο το Maia 100 ανταποκρίνεται στις ανάγκες του AI chatbot της μηχανής αναζήτησης Bing (τώρα ονομάζεται Copilot αντί για Bing Chat), του βοηθού προγραμματισμού GitHub Copilot και του GPT3.5 Turbo, του μεγάλου γλωσσικού μοντέλου “πρώτης γενιάς” από την OpenAI που υποστηρίζεται από τη Microsoft.
Το μοντέλο GPT 3.5 Turbo υποστηρίζει αυτή τη στιγμή την δωρεάν έκδοση του ChatGPT της OpenAI, ενώ η τεράστια απήχηση και η άμεση και έμμεση ζήτηση αύξησαν δραματικά τη ζήτηση για GPU, με την Nvidia να μη μπορεί να καλύψει τη ζήτηση.
Η Microsoft δοκιμάζει την εφαρμογή Teams και την υπηρεσία βάσης δεδομένων SQL Azure στο Cobalt. Μέχρι στιγμής, έχουν αποδώσει 40% καλύτερα από ό, τι στα υπάρχοντα τσιπ που βασίζονται σε Arm του Azure, τα οποία προέρχονται από την Startup Ampere, δήλωσε η Microsoft. Ο Borkar ανέφερε επίσης ότι δεν είχε λεπτομέρειες σχετικά με την απόδοση της Maia σε σύγκριση με εναλλακτικές λύσεις όπως το H100 της Nvidia.
Έξυπνη διαχείριση των GPU ΑΙ στα Computer Room
Εκτός από το σχεδιασμό του τσιπ Maia, η Microsoft έχει επινοήσει ένα προσαρμοσμένο υδρόψυκτο hardware που ονομάζεται Sidekicks που ταιριάζει σε racks ακριβώς δίπλα σε racks που περιέχουν διακομιστές Maia. Η εταιρεία μπορεί να εγκαταστήσει τα racks διακομιστών και τα racks Sidekick χωρίς την ανάγκη μετασκευής, δήλωσε o εκπρόσωπος της εταιρείας. Με τις GPU για ΑΙ, η πλήρης αξιοποίηση του περιορισμένου χώρου στο κέντρο δεδομένων μπορεί να δημιουργήσει προκλήσεις. Οι εταιρείες μερικές φορές τοποθετούν μερικούς διακομιστές που περιέχουν GPU στο κάτω μέρος ενός rack για να αποτρέψουν την υπερθέρμανση, αντί να γεμίζουν το rack από πάνω προς τα κάτω,
