Good...

3
Comment
Favorite

Jacksim
2021-08-21

Good...

特斯拉Dojo芯片，领先竞争对手一个数量级

特斯拉刚刚召开了他们的人工智能日，并透露了其软件和硬件基础设施的内部工作原理。此次公开的部分一是之前公开的Dojo AI训练芯片。特斯拉称他们的 D1 Dojo 芯片具有 GPU 级别的计算能力、CP

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Report

Comment

Top
Latest

No comments yet

Most Discussed

Terms and Conditions·Privacy Policy

Company: TTMF Limited. Tech supported by Xiangshang Yixin.

Email：uservice@ttm.financial

{"i18n":{"language":"en_US"},"data":{"magic":2,"id":836741524,"tweetId":"836741524","gmtCreate":1629529589168,"gmtModify":1676530066683,"author":{"id":4090666679009510,"idStr":"4090666679009510","authorId":4090666679009510,"authorIdStr":"4090666679009510","name":"Jacksim","avatar":"https://static.tigerbbs.com/cad02c18681a5073da96066b242bdaca","vip":1,"userType":1,"introduction":"","boolIsFan":false,"boolIsHead":false,"crmLevel":1,"crmLevelSwitch":0,"individualDisplayBadges":[],"fanSize":5,"starInvestorFlag":false},"themes":[],"images":[],"coverImages":[],"extraTitle":"","html":"<html><head></head><body>Good...&nbsp;</body></html>","htmlText":"<html><head></head><body>Good...&nbsp;</body></html>","text":"Good...","highlighted":1,"essential":1,"paper":1,"likeSize":3,"commentSize":0,"repostSize":0,"favoriteSize":0,"link":"https://ttm.financial/post/836741524","repostId":2161746147,"repostType":4,"repost":{"id":"2161746147","pubTimestamp":1629514858,"share":"https://www.laohu8.com/m/news/2161746147?lang=&edition=full","pubTime":"2021-08-21 11:00","market":"us","language":"zh","title":"特斯拉Dojo芯片，领先竞争对手一个数量级","url":"https://stock-news.laohu8.com/highlight/detail?id=2161746147","media":"半导体行业观察","summary":"特斯拉刚刚召开了他们的人工智能日，并透露了其软件和硬件基础设施的内部工作原理。此次公开的部分一是之前公开的Dojo AI训练芯片。特斯拉称他们的 D1 Dojo 芯片具有 GPU 级别的计算能力、CP","content":"<a href=\"https://laohu8.com/S/TSLA\">特斯拉</a>刚刚召开了他们的人工智能日，并透露了其软件和硬件基础设施的内部工作原理。此次公开的部分一是之前公开的Dojo AI训练芯片。特斯拉称他们的 D1 Dojo 芯片具有 GPU 级别的计算能力、CPU 级别的灵活性，以及网络交换机IO。\n几周前，我们推测该系统的封装是 TSMC 晶圆集成扇出系统 (InFO_SoW)。我们解释了这种类型的封装的好处以及这种大规模扩展训练芯片所涉及的冷却和功耗。此外，我们估计该软件包的性能将优于 Nvidia 系统。所有这些似乎都是有根据的推测。今天，我们将深入的挖掘更多的半导体细节。\n<img src=\"https://fid-75186.picgzc.qpic.cn/20210821110451514v197zlc3kf89g5a\" tg-width=\"1080\" tg-height=\"504\" referrerpolicy=\"no-referrer\" width=\"100%\" height=\"auto\">\n在我们深入讨论硬件之前，让我们先谈谈评估基础架构。特斯拉不断地重新训练和改进他们的神经网络。他们评估任何代码更改以查看是否有改进。在汽车和服务器中部署了数以千计的相同芯片。他们每周进行数百万次评估。\n<img src=\"https://fid-75186.picgzc.qpic.cn/20210821110452695v197e2lm3fz76i2\" tg-width=\"1080\" tg-height=\"568\" referrerpolicy=\"no-referrer\" width=\"100%\" height=\"auto\">\n多年来，特斯拉一直在扩大其GPU集群的规模。如果特斯拉停止所有实际工作负载，运行Linpack，并将其提交到Top500榜单，他们目前的训练集群将成为第五大超级计算机。然而，对于特斯拉和其雄心来说，这种性能的扩展是不够的，所以他们在几年前就开始开发自己的Dojo芯片项目。特斯拉需要更高的性能，以节能且经济高效的方式实现更大、更复杂的神经网络。\n<img src=\"https://fid-75186.picgzc.qpic.cn/20210821110453776v197jx2k68fhcml\" tg-width=\"1080\" tg-height=\"490\" referrerpolicy=\"no-referrer\" width=\"100%\" height=\"auto\">\n特斯拉的架构解决方案是分布式计算架构。当我们听他们的细节时，这个架构看起来很像Cerberus。我们分析了Cerebras晶圆级引擎及其架构。每个AI训练架构都是以这种方式布置的，但计算元素、网络和结构的细节差别很大。这些类型的网络最大的问题是扩大带宽和保持低延迟。为了扩大网络规模，特斯拉特别关注于此，这影响了他们设计的每个部分，从芯片材料到封装。\n<img src=\"https://fid-75186.picgzc.qpic.cn/20210821110454722v197cx5xiqu333q\" tg-width=\"1080\" tg-height=\"599\" referrerpolicy=\"no-referrer\" width=\"100%\" height=\"auto\">\n该功能单元被设计为可通过1个时钟周期，但足够大，以至于同步开销和软件不是主要问题。因此，他们得出的设计几乎和Cerebras一模一样。由高速结构连接的单个单元的网状结构，该结构在一个时钟内的功能是单元之间的路由通信。每个单元都有一个大的1.25MB SRAM暂存板和多个具有SIMD功能的超标量CPU核，以及支持所有常见数据类型的矩阵乘法单元。此外，他们还引入了一种名为CFP8的新数据类型，可配置浮点8。每个单元可在BF16 / CFP8上支持1TFlop，FP31上64GFlops，每个方向512GB/s的带宽。\n<img src=\"https://fid-75186.picgzc.qpic.cn/20210821110500799v197xhcnedchtus\" tg-width=\"1080\" tg-height=\"572\" referrerpolicy=\"no-referrer\" width=\"100%\" height=\"auto\">\nCPU也是毫不逊色，它在矢量管道上是4宽2宽。每个核心可以承载4个线程，以最大限度的提高利用率。遗憾的是，特斯拉使用了定制的ISA，而不是像 RISC V 这样的顶级开源 ISA。这个定制的ISA引入了转置，收集，广播，和链接遍历的指令。\n这354个功能单元的全芯片可达到BF16或CFP8的362 TFlops和FP32的22.6 TFlops。它总共有645mm²和500亿个晶体管。每个芯片都有惊人的400W TDP，这意味着功率密度高于大多数配置的Nvidia A100 GPU。有趣的是，特斯拉实现了每mm²上集成7750万个晶体管的有效晶体管密度，仅次于移动芯片和<a href=\"https://laohu8.com/S/AAPL\">苹果</a>M1，比其他所有高性能芯片都要高。\n<img src=\"https://fid-75186.picgzc.qpic.cn/20210821110503440v197lagxvjg0azx\" tg-width=\"1080\" tg-height=\"557\" referrerpolicy=\"no-referrer\" width=\"100%\" height=\"auto\">\n基本功能单元的另一个有趣的方面是NOC路由器。它与Tenstorrent有非常类似的在芯片内部和芯片间的扩展方式。毫不意外，特斯拉正在采用与其他备受推崇的人工智能初创公司类似的架构。Tenstorrent 非常适合扩展培训，而特斯拉非常关注这方面。\n在芯片上，特斯拉拥有惊人的10TBps定向带宽，但这个数字在实际工作负载中没有多大意义。特斯拉相对于Tenstorrent的一个巨大优势是芯片之间的带宽要高得多。他们在 112GTs 上有 576 个 SerDes。这产生了总共 64Tb/s 或 8TB/s 的带宽。\n我们不确定特斯拉每条边的4TB/s是从哪里得到的，更有可能是X轴和Y轴上的数字。先不说这张令人困惑的幻灯片，这个芯片的带宽是疯狂的。目前已知的最高外部带宽芯片是32Tb/s网络交换机芯片。特斯拉能够通过大量的SerDes和先进的封装将这个数字翻倍。\n<img src=\"https://fid-75186.picgzc.qpic.cn/20210821110506551v1979x5minzarss\" tg-width=\"1080\" tg-height=\"487\" referrerpolicy=\"no-referrer\" width=\"100%\" height=\"auto\">\n特斯拉通过PCIe 4.0将Dojo芯片的计算平面连接到连接主机系统的接口处理器上。这些接口处理器还支持更高的基数网络连接，以补充现有的计算平面网格。\n<img src=\"https://fid-75186.picgzc.qpic.cn/20210821110513356v197ye4od4q94c8\" tg-width=\"1080\" tg-height=\"586\" referrerpolicy=\"no-referrer\" width=\"100%\" height=\"auto\">\n25个D1芯片被封装成 “扇出晶圆工艺（fan out wafer process）”。特斯拉并没有像我们几周前猜测的那样确认这个封装是<a href=\"https://laohu8.com/S/TSM\">台积电</a>的集成晶圆扇形系统(InFO_SoW)，但考虑到疯狂的芯片间带宽和他们特别提到的扇出晶圆，这看起来很有可能。\n特斯拉开发了一种专有的高带宽连接器，可以保留这些芯片之间的芯片外带宽。每个芯片都有令人印象深刻的9PFlops BF16/CFP8和36tb /s的off-tile带宽。这远远超过了Cerebras的晶圆外带宽，使特斯拉系统的横向扩展能力甚至比横向扩展设计（例如 Tenstorrent 架构）还要好。\n<img src=\"https://fid-75186.picgzc.qpic.cn/20210821110515346v197ep16cl0iw6o\" tg-width=\"1080\" tg-height=\"765\" referrerpolicy=\"no-referrer\" width=\"100%\" height=\"auto\">\n电源传输是独一无二的，定制的，也非常令人印象深刻。由于具有如此大的带宽和超过 10KW 的功耗，特斯拉在电力传输方面进行了创新，并垂直供电。定制稳压器调制器直接回流到扇出晶片上。功率、热量和机械都直接与芯片连接。\n<img src=\"https://fid-75186.picgzc.qpic.cn/20210821110516207v1975u9vgzz63ni\" tg-width=\"1080\" tg-height=\"594\" referrerpolicy=\"no-referrer\" width=\"100%\" height=\"auto\">\n即使芯片本身的总功率只有10KW，但芯片的总功率仍然是15KW。电力传输、IO和晶圆线也在消耗大量的电力。能量从底部进来，热量从顶部出来。特斯拉的规模单位不是芯片，而是25块芯片。这个贴图远远超过了Nvidia, Graphcore, Cerebras, Groq, Tenstorrent, SambaNova，或任何其他AI训练项目的单位性能和扩展能力。\n所有这些似乎都是非常遥远的技术，但特斯拉声称，他们已经在实验室的真实人工智能网络上以2GHz的频率运行了芯片。\n<img src=\"https://fid-75186.picgzc.qpic.cn/20210821110518184v197qyjtg5phst7\" tg-width=\"1080\" tg-height=\"715\" referrerpolicy=\"no-referrer\" width=\"100%\" height=\"auto\">\n扩展到数千个芯片的下一步是服务器级别。Dojo可扩展为2 x 3的tile配置，在一个服务器中有两个这样的配置。对于那些在家计数的人来说，每个服务器总共有12个tile，每个服务器总共有108个PFlops，超过100,000个功能单元，400,000个定制核和132GB SRAM是令人震惊的数字。\n<img src=\"https://fid-75186.picgzc.qpic.cn/20210821110519282v197ncjdhvmc22t\" tg-width=\"1080\" tg-height=\"482\" referrerpolicy=\"no-referrer\" width=\"100%\" height=\"auto\">\n特斯拉不断扩大其网格中的机柜级别。芯片之间没有带宽中断，它是一个具有惊人带宽的同质芯片网格。他们计划扩大到10个机柜、1.1 Exaflops、1,062,000个功能单元、4,248,000个核心和1.33TB的SRAM。\n<img src=\"https://fid-75186.picgzc.qpic.cn/20210821110520332v197acj94hjb924\" tg-width=\"1031\" tg-height=\"825\" referrerpolicy=\"no-referrer\" width=\"100%\" height=\"auto\">\n软件方面很有趣，但我们今天不会太深入讨论。他们声称他们可以对其进行虚拟细分。他们说不管集群的大小如何，软件都可以在Dojo处理单元(DPU)之间无缝扩展。Dojo 编译器可以处理硬件计算平面的细粒度并行和映射网络。它可以通过数据模型图并行性来实现这一点，但也可以进行优化以减少内存占用。\n模型并行性可以跨芯片边界扩展，甚至不需要大批量的轻松解锁具有数万亿参数甚至更多参数的下一级AI模型。他们不需要依赖手写的代码来在这个庞大的集群上运行模型。\n总的来说，与<a href=\"https://laohu8.com/S/NVDA\">英伟达</a>的GPU相比，成本相当，但特斯拉声称他们可以实现4倍的性能，每瓦性能提高1.3倍，减少5倍的面积。特斯拉的TCO优势几乎比英伟达的AI解决方案好一个数量级。如果他们的说法是真的，特斯拉已经超越了人工智能硬件和软件领域的所有人。我对此表示怀疑，但这也是硬件极客的美梦。\n我们都要试图冷静下来，等一等，看看它什么时候会实际部署到生产环境中。","source":"bdthygc","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>特斯拉Dojo芯片，领先竞争对手一个数量级</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n特斯拉Dojo芯片，领先竞争对手一个数量级\n</h2>\n\n<h4 class=\"meta\">\n\n\n2021-08-21 11:00 北京时间&nbsp;&nbsp;&nbsp;<a href=https://mp.weixin.qq.com/s/EPgSUdG_3_t3XpeXVQne0A>半导体行业观察</a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n特斯拉刚刚召开了他们的人工智能日，并透露了其软件和硬件基础设施的内部工作原理。此次公开的部分一是之前公开的Dojo AI训练芯片。特斯拉称他们的 D1 Dojo 芯片具有 GPU 级别的计算能力、CPU 级别的灵活性，以及网络交换机IO。\n几周前，我们推测该系统的封装是 TSMC 晶圆集成扇出系统 (InFO_SoW)。我们解释了这种类型的封装的好处以及这种大规模扩展训练芯片所涉及的冷却和功耗。...\n\n<a href=\"https://mp.weixin.qq.com/s/EPgSUdG_3_t3XpeXVQne0A\">Web Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://static.tigerbbs.com/e49ab90f6352b6ebbb45091ad18b5a2e","relate_stocks":{"TSLA":"特斯拉"},"source_url":"https://mp.weixin.qq.com/s/EPgSUdG_3_t3XpeXVQne0A","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"2161746147","content_text":"特斯拉刚刚召开了他们的人工智能日，并透露了其软件和硬件基础设施的内部工作原理。此次公开的部分一是之前公开的Dojo AI训练芯片。特斯拉称他们的 D1 Dojo 芯片具有 GPU 级别的计算能力、CPU 级别的灵活性，以及网络交换机IO。\n几周前，我们推测该系统的封装是 TSMC 晶圆集成扇出系统 (InFO_SoW)。我们解释了这种类型的封装的好处以及这种大规模扩展训练芯片所涉及的冷却和功耗。此外，我们估计该软件包的性能将优于 Nvidia 系统。所有这些似乎都是有根据的推测。今天，我们将深入的挖掘更多的半导体细节。\n\n在我们深入讨论硬件之前，让我们先谈谈评估基础架构。特斯拉不断地重新训练和改进他们的神经网络。他们评估任何代码更改以查看是否有改进。在汽车和服务器中部署了数以千计的相同芯片。他们每周进行数百万次评估。\n\n多年来，特斯拉一直在扩大其GPU集群的规模。如果特斯拉停止所有实际工作负载，运行Linpack，并将其提交到Top500榜单，他们目前的训练集群将成为第五大超级计算机。然而，对于特斯拉和其雄心来说，这种性能的扩展是不够的，所以他们在几年前就开始开发自己的Dojo芯片项目。特斯拉需要更高的性能，以节能且经济高效的方式实现更大、更复杂的神经网络。\n\n特斯拉的架构解决方案是分布式计算架构。当我们听他们的细节时，这个架构看起来很像Cerberus。我们分析了Cerebras晶圆级引擎及其架构。每个AI训练架构都是以这种方式布置的，但计算元素、网络和结构的细节差别很大。这些类型的网络最大的问题是扩大带宽和保持低延迟。为了扩大网络规模，特斯拉特别关注于此，这影响了他们设计的每个部分，从芯片材料到封装。\n\n该功能单元被设计为可通过1个时钟周期，但足够大，以至于同步开销和软件不是主要问题。因此，他们得出的设计几乎和Cerebras一模一样。由高速结构连接的单个单元的网状结构，该结构在一个时钟内的功能是单元之间的路由通信。每个单元都有一个大的1.25MB SRAM暂存板和多个具有SIMD功能的超标量CPU核，以及支持所有常见数据类型的矩阵乘法单元。此外，他们还引入了一种名为CFP8的新数据类型，可配置浮点8。每个单元可在BF16 / CFP8上支持1TFlop，FP31上64GFlops，每个方向512GB/s的带宽。\n\nCPU也是毫不逊色，它在矢量管道上是4宽2宽。每个核心可以承载4个线程，以最大限度的提高利用率。遗憾的是，特斯拉使用了定制的ISA，而不是像 RISC V 这样的顶级开源 ISA。这个定制的ISA引入了转置，收集，广播，和链接遍历的指令。\n这354个功能单元的全芯片可达到BF16或CFP8的362 TFlops和FP32的22.6 TFlops。它总共有645mm²和500亿个晶体管。每个芯片都有惊人的400W TDP，这意味着功率密度高于大多数配置的Nvidia A100 GPU。有趣的是，特斯拉实现了每mm²上集成7750万个晶体管的有效晶体管密度，仅次于移动芯片和苹果M1，比其他所有高性能芯片都要高。\n\n基本功能单元的另一个有趣的方面是NOC路由器。它与Tenstorrent有非常类似的在芯片内部和芯片间的扩展方式。毫不意外，特斯拉正在采用与其他备受推崇的人工智能初创公司类似的架构。Tenstorrent 非常适合扩展培训，而特斯拉非常关注这方面。\n在芯片上，特斯拉拥有惊人的10TBps定向带宽，但这个数字在实际工作负载中没有多大意义。特斯拉相对于Tenstorrent的一个巨大优势是芯片之间的带宽要高得多。他们在 112GTs 上有 576 个 SerDes。这产生了总共 64Tb/s 或 8TB/s 的带宽。\n我们不确定特斯拉每条边的4TB/s是从哪里得到的，更有可能是X轴和Y轴上的数字。先不说这张令人困惑的幻灯片，这个芯片的带宽是疯狂的。目前已知的最高外部带宽芯片是32Tb/s网络交换机芯片。特斯拉能够通过大量的SerDes和先进的封装将这个数字翻倍。\n\n特斯拉通过PCIe 4.0将Dojo芯片的计算平面连接到连接主机系统的接口处理器上。这些接口处理器还支持更高的基数网络连接，以补充现有的计算平面网格。\n\n25个D1芯片被封装成 “扇出晶圆工艺（fan out wafer process）”。特斯拉并没有像我们几周前猜测的那样确认这个封装是台积电的集成晶圆扇形系统(InFO_SoW)，但考虑到疯狂的芯片间带宽和他们特别提到的扇出晶圆，这看起来很有可能。\n特斯拉开发了一种专有的高带宽连接器，可以保留这些芯片之间的芯片外带宽。每个芯片都有令人印象深刻的9PFlops BF16/CFP8和36tb /s的off-tile带宽。这远远超过了Cerebras的晶圆外带宽，使特斯拉系统的横向扩展能力甚至比横向扩展设计（例如 Tenstorrent 架构）还要好。\n\n电源传输是独一无二的，定制的，也非常令人印象深刻。由于具有如此大的带宽和超过 10KW 的功耗，特斯拉在电力传输方面进行了创新，并垂直供电。定制稳压器调制器直接回流到扇出晶片上。功率、热量和机械都直接与芯片连接。\n\n即使芯片本身的总功率只有10KW，但芯片的总功率仍然是15KW。电力传输、IO和晶圆线也在消耗大量的电力。能量从底部进来，热量从顶部出来。特斯拉的规模单位不是芯片，而是25块芯片。这个贴图远远超过了Nvidia, Graphcore, Cerebras, Groq, Tenstorrent, SambaNova，或任何其他AI训练项目的单位性能和扩展能力。\n所有这些似乎都是非常遥远的技术，但特斯拉声称，他们已经在实验室的真实人工智能网络上以2GHz的频率运行了芯片。\n\n扩展到数千个芯片的下一步是服务器级别。Dojo可扩展为2 x 3的tile配置，在一个服务器中有两个这样的配置。对于那些在家计数的人来说，每个服务器总共有12个tile，每个服务器总共有108个PFlops，超过100,000个功能单元，400,000个定制核和132GB SRAM是令人震惊的数字。\n\n特斯拉不断扩大其网格中的机柜级别。芯片之间没有带宽中断，它是一个具有惊人带宽的同质芯片网格。他们计划扩大到10个机柜、1.1 Exaflops、1,062,000个功能单元、4,248,000个核心和1.33TB的SRAM。\n\n软件方面很有趣，但我们今天不会太深入讨论。他们声称他们可以对其进行虚拟细分。他们说不管集群的大小如何，软件都可以在Dojo处理单元(DPU)之间无缝扩展。Dojo 编译器可以处理硬件计算平面的细粒度并行和映射网络。它可以通过数据模型图并行性来实现这一点，但也可以进行优化以减少内存占用。\n模型并行性可以跨芯片边界扩展，甚至不需要大批量的轻松解锁具有数万亿参数甚至更多参数的下一级AI模型。他们不需要依赖手写的代码来在这个庞大的集群上运行模型。\n总的来说，与英伟达的GPU相比，成本相当，但特斯拉声称他们可以实现4倍的性能，每瓦性能提高1.3倍，减少5倍的面积。特斯拉的TCO优势几乎比英伟达的AI解决方案好一个数量级。如果他们的说法是真的，特斯拉已经超越了人工智能硬件和软件领域的所有人。我对此表示怀疑，但这也是硬件极客的美梦。\n我们都要试图冷静下来，等一等，看看它什么时候会实际部署到生产环境中。","news_type":1},"isVote":1,"tweetType":1,"viewCount":648,"commentLimit":10,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"symbols":[],"verified":2,"subType":0,"readableState":1,"langContent":"EN","currentLanguage":"EN","warmUpFlag":false,"orderFlag":false,"shareable":true,"causeOfNotShareable":"","featuresForAnalytics":[],"commentAndTweetFlag":false,"andRepostAutoSelectedFlag":false,"upFlag":false,"length":7,"xxTargetLangEnum":"ORIG"},"commentList":[],"hasMoreComment":false,"orderType":2}