Alphabet-এর Google বিভাগ বুধবার দুটি বিশেষায়িত কৃত্রিম বুদ্ধিমত্তা প্রসেসর উন্মোচন করেছে, যা প্রথমবারের মতো তার টেনসর প্রসেসিং ইউনিট আর্কিটেকচারকে প্রশিক্ষণ এবং ইনফারেন্স অপারেশনের জন্য আলাদা চিপে বিভক্ত করেছে।
TPU 8t বিশেষভাবে AI মডেল প্রশিক্ষণের জন্য ইঞ্জিনিয়ার করা হয়েছে, আর এর প্রতিপক্ষ TPU 8i শুধুমাত্র ইনফারেন্সের উপর মনোযোগ দেয়—যা বাস্তব-বিশ্বের অ্যাপ্লিকেশনে প্রশিক্ষিত মডেল স্থাপনের প্রক্রিয়া। Broadcom সহ-উন্নয়ন অংশীদার হিসেবে কাজ করেছে, যা দশ বছরেরও বেশি সময় ধরে চলে আসা সহযোগিতা বিস্তৃত করেছে।
Alphabet Inc., GOOGL
এটি পূর্ববর্তী পদ্ধতি থেকে একটি কৌশলগত পরিবর্তন প্রতিনিধিত্ব করে। আগের TPU সংস্করণগুলি একটি একক প্রসেসরের মধ্যে প্রশিক্ষণ এবং ইনফারেন্স উভয় সক্ষমতাই একত্রিত করেছিল। Google এই পরিবর্তনকে এজেন্টিক AI সিস্টেমের উদ্ভবের সাথে সম্পর্কিত করেছে—স্বায়ত্তশাসিত মডেল যা ন্যূনতম মানবীয় তত্ত্বাবধানে ক্রমাগত ফিডব্যাক লুপে কাজ করে—যার জন্য আরও উদ্দেশ্য-নির্মিত সিলিকন প্রয়োজন।
ইনফারেন্স-ভিত্তিক TPU 8i প্রতি প্রসেসরে ৩৮৪ মেগাবাইট SRAM ধারণ করে—Ironwood-এর ক্ষমতার তিনগুণ। Google-এর মতে, এই আর্কিটেকচারাল উন্নতি "ওয়েটিং রুম" বোতলনেক দূর করে, একাধিক ব্যবহারকারী একই সময়ে একটি মডেলে কোয়েরি করলে যে লেটেন্সি স্পাইক হয় তা কমায়।
Ironwood-এর তুলনায়, TPU 8i ৮০% উন্নত খরচ দক্ষতা অর্জন করে। কার্যক্ষেত্রে, সংস্থাগুলি বাজেট না বাড়িয়ে প্রায় দ্বিগুণ ব্যবহারকারীর চাহিদা মেটাতে পারে।
চিপটি প্রতি ওয়াটে ২ গুণ পর্যন্ত উন্নত শক্তি দক্ষতাও প্রদর্শন করে, যা ডায়নামিক পাওয়ার ম্যানেজমেন্ট প্রযুক্তি দ্বারা সক্ষম হয়েছে যা রিয়েল-টাইম ওয়ার্কলোড প্রয়োজনীয়তার উপর ভিত্তি করে শক্তি খরচ নিয়ন্ত্রণ করে।
প্রথমবারের মতো, উভয় প্রসেসর হোস্ট প্রসেসর হিসেবে Google-এর Axion CPU ব্যবহার করে, যা পৃথক চিপ পারফরম্যান্সে উন্নতি সীমাবদ্ধ না রেখে সিস্টেম আর্কিটেকচার স্তরে অপ্টিমাইজেশন সক্ষম করে।
প্রশিক্ষণ সক্ষমতার বিষয়ে, TPU 8t সুপারপড কনফিগারেশন ২ পেটাবাইট হাই-ব্যান্ডউইথ মেমরি সহ ৯,৬০০টি প্রসেসর পর্যন্ত ক্লাস্টার সমর্থন করে। এটি Ironwood-এর দ্বিগুণ ইন্টারচিপ যোগাযোগ ব্যান্ডউইথ প্রতিনিধিত্ব করে, এবং Google দাবি করে এটি ফ্রন্টিয়ার মডেল উন্নয়নের সময়সীমা মাস থেকে মাত্র সপ্তাহে সংকুচিত করতে পারে।
ট্রেনিং প্রসেসর সমতুল্য মূল্যে সপ্তম প্রজন্মের Ironwood আর্কিটেকচারের ২.৮ গুণ কম্পিউটেশনাল পারফরম্যান্স প্রদান করে।
আর্লি অ্যাডপশন গতি পাচ্ছে। Citadel Securities Google-এর TPU অবকাঠামো ব্যবহার করে কোয়ান্টিটেটিভ রিসার্চ প্ল্যাটফর্ম তৈরি করেছে। মার্কিন যুক্তরাষ্ট্রের শক্তি বিভাগের সতেরোটি জাতীয় গবেষণাগার সবই প্রসেসরগুলিতে AI কো-সায়েন্টিস্ট অ্যাপ্লিকেশন পরিচালনা করে। Anthropic একাধিক গিগাওয়াট Google TPU কম্পিউটিং ক্ষমতা ব্যবহারের প্রতিশ্রুতি দিয়েছে।
DA Davidson-এর বিশ্লেষকরা সেপ্টেম্বরে পূর্বাভাস দিয়েছিলেন যে Google-এর TPU বিভাগ, Google DeepMind-এর সাথে মিলিত হলে, $৯০০ বিলিয়নের কাছাকাছি মূল্যায়ন অর্জন করতে পারে।
Google TPU-এর জন্য একটি একচেটিয়া বিতরণ মডেল বজায় রাখে—এগুলি সরাসরি ক্রয়ের জন্য উপলব্ধ নয় এবং শুধুমাত্র Google Cloud পরিষেবার মাধ্যমে অ্যাক্সেস করা যায়। Nvidia Google-কে GPU হার্ডওয়্যার সরবরাহ করতে থাকে, এবং কোম্পানিটি নিশ্চিত করেছে যে এটি চলতি বছর পরে Nvidia-এর আসন্ন Vera Rubin প্ল্যাটফর্ম লঞ্চ হলে প্রাথমিক ক্লাউড পরিষেবা প্রদানকারীদের মধ্যে থাকবে।
প্রসেসরগুলি Google DeepMind-এর সাথে ঘনিষ্ঠ সহযোগিতায় ইঞ্জিনিয়ার করা হয়েছে, যা Gemini ভাষা মডেল প্রশিক্ষণ এবং Search ও YouTube প্ল্যাটফর্মকে চালিত করা অ্যালগরিদম অপ্টিমাইজ করতে এগুলি মোতায়েন করেছে।
Google ঘোষণা করেছে যে TPU 8t এবং TPU 8i উভয়ই ২০২৫ সালের শেষের দিকে ক্লাউড প্ল্যাটফর্ম গ্রাহকদের জন্য সাধারণ প্রাপ্যতায় পৌঁছাবে।
The post Alphabet (GOOGL) Unveils Dual-Purpose 8th-Gen TPU Chips Developed With Broadcom appeared first on Blockonomi.


