[ad_1]

چه اتفاقی افتاده؟ آمازون اعلام کرده است که در حال انتقال پردازش هوش مصنوعی به تراشه های سفارشی AWS Inferentia است. این بدان معناست که بزرگترین خدمات درگیر آمازون ، مانند دستیار مجازی الکسا ، به جای پردازنده های گرافیکی تا حدودی چند منظوره ، با سیلیکون سریعتر و تخصصی تری پردازش می شوند.

آمازون قبلاً حدود 80٪ از پردازش های الکسا را ​​به موارد E1 (Elastic Compute Cloud (EC2) Inf1) که از تراشه های جدید AWS Inferentia استفاده می کنند ، منتقل کرده است. در مقایسه با نمونه های G4 که از پردازنده های گرافیکی سنتی استفاده می کردند ، نمونه های Inf1 عملکرد را 30٪ افزایش و 45٪ کاهش می دهند. آمازون معتقد است که آنها بهترین موارد در بازار برای ادغام بارهای پردازش صدا و زبان طبیعی هستند.

الکسا به این شکل عمل می کند: جعبه بلندگو (یا همانطور که ممکن است استوانه باشد) در واقع کاری از پیش نمی برد ، در حالی که پردازنده های AWS در ابر همه کارها را انجام می دهند. یا از نظر فنی … بعد از اینکه کلمه بیدار شدن توسط تراشه دستگاه Echo شناسایی شد ، سیستم روشن می شود. پخش جریانی صدا را در زمان واقعی در ابر آغاز می کند. صدا در یک مرکز داده در جایی قطع می شود ، صدا به متن تبدیل می شود (این نمونه ای از عفونت است). سپس معنی از متن خارج می شود (نمونه دیگری از آلودگی). تمام اقدامات لازم مانند استخراج اطلاعات مربوط به زمان روز انجام شده است.

https://www.youtube.com/watch؟v=5FsRwz8hlog

الکسا پس از تکمیل درخواست شما ، باید پاسخ را به شما اطلاع دهد. آنچه او برای گفتن دارد از میان اسکریپت های مدولار انتخاب می شود. سپس اسکریپت به یک فایل صوتی تبدیل می شود (نمونه دیگری از آلودگی) و برای دستگاه Echo شما ارسال می شود. اکو پرونده را رها می کند و شما تصمیم می گیرید یک چتر بیاورید تا با شما کار کند.

به اندازه کافی واضح است که شمول بخش عمده ای از کار است. جای تعجب نیست که آمازون میلیون ها دلار در ساخت تراشه های عفونی کامل سرمایه گذاری کرده است.

اگر صحبت کنیم ، تراشه های Inferentia از چهار NeuronCore تشکیل شده اند. هر یک از آنها “یک موتور بسیار کارآمد برای ضرب ماتریس آرایه سیستولیک” را انجام می دهند. کم و بیش ، هر NeuronCore از تعداد بسیار زیادی واحد پردازش داده کوچک (DPU) تشکیل شده است که داده ها را به صورت خطی و مستقل پردازش می کند. هر تراشه Inferentia همچنین یک حافظه پنهان بزرگ دارد ، که تأخیر را بهبود می بخشد.

[ad_2]

منبع: tanha-news.ir