调查称开发者最讨厌 PHP
谷歌开源了一个分布式机器学习库 GPipe,这是一个用于高效训练大规模神经网络模型的库。
GPipe 使用同步随机梯度下降和管道并行进行
1、谷歌开源 GPipe,训练更大模型、不调整超参扩展性能 谷歌开源了一个分布式机器学习库 GPipe,这是一个用于高效训练大规模神经网络模型的库。 GPipe 使用同步随机梯度下降和管道并行进行训练,适用于由多个连续层组成的任何 DNN。重要的是,GPipe 允许研究人员轻松部署更多加速器来训练更大的模型,并在不调整超参数的情况下扩展性能。 开发团队在 Google Cloud TPUv2s 上训练了 AmoebaNet-B,其具有 5.57 亿个模型参数和 480 x 480 的输入图像尺寸。该模型在多个流行数据集上表现良好,包括将single-crop ImageNet 精度推至 84.3%,将 CIFAR-10 精度推至 99%,将 CIFAR-100 精度推至 91.3%。 GPipe 可以最大化模型参数的内存分配。团队在 Google Cloud TPUv2上进行了实验,每个 TPUv2 都有 8 个加速器核心和 64 GB 内存(每个加速器 8 GB)。如果没有 GPipe,由于内存限制,单个加速器可以训练8200 万个模型参数。由于在反向传播和批量分割中重新计算,GPipe 将中间激活内存从 6.26 GB 减少到 3.46GB,在单个加速器上实现了 3.18 亿个参数。此外,通过管道并行,最大模型大小与预期分区数成正比。通过 GPipe,AmoebaNet 能够在TPUv2 的 8 个加速器上加入 18 亿个参数,比没有 GPipe 的情况下多 25 倍。 核心 GPipe 库目前开源在Lingvo 框架下。 2、英特尔 CPU 再现高危漏洞,得到官方证实可泄露私密数据 美国伍斯特理工学院研究人员在英特尔处理器中发现另外一个被称作Spoiler的高危漏洞,与之前被发现的Spectre相似,Spoiler会泄露用户的私密数据。虽然Spoiler也依赖于预测执行技术,现有封杀Spectre漏洞的解决方案对它却无能为力。无论是对英特尔还是其客户来说,Spoiler的存在都不是个好消息。 研究论文明确指出,“Spoiler不是Spectre攻击。Spoiler的根本原因是英特尔内存子系统实现中地址预测技术的一处缺陷。现有的Spectre补丁对Spoiler无效。” 与Spectre一样,Spoiler也使恶意黑客能从内存中窃取密码、安全密钥和其他关键数据。但我们需要指出的是,要利用Spoiler发动攻击,黑客需要能使用用户的计算机——在许多情况下黑客不具备这样的条件,或借助其他途径通过让用户计算机感染恶意件获得访问权限。 研究人员指出,有趣的是,他们也对ARM和AMD处理器进行了研究,发现它们不存在Spoiler漏洞,这意味着英特尔在处理器中使用了专有的内存管理技术。 进一步的研究发现,无论运行什么操作系统,几乎所有现代英特尔处理器都存在Spoiler漏洞。研究人员表示,“这一漏洞能被有限的指令利用,从第一代酷睿系列处理器起,这些指令就存在于所有的英特尔处理器中,与操作系统无关。” 虽然Spoiler漏洞信息被公之于众,但目前尚没有软件补丁能封堵这一漏洞。软件补丁的发布还没有时间表,以及它对计算机性能的影响也不得而知。 英特尔对此发表声明称,“英特尔已获悉相关研究结果,我们预计软件补丁能封堵这一漏洞。保护我们的客户以及他们的数据仍然是我们重中之重的任务,我们对安全社区的努力表示感激。” 【业界资讯】 0、知名 Python 技术博主因病离世 3月1日@Laika在豆瓣公墓小组发帖说@Vamei因抑郁症离世。在Vamei 最后一条微博下面,看到不少眼熟的网友在悼念他。 Vamei本科毕业于中国科学技术大学,南洋理工大学博士。技术博客博主,他写的技术博文都非常受读者欢迎,还著有《从Python开始学编程》一书 如今,抑郁、焦虑和相似的病症正日益增长。有关专家指出,抑郁症主要是由社会原因造成的,正在成为当代社会的一种多发病。专家分析,此类患者不断增多php开发者,一方面是由于当今社会竞争日益激烈,人们的工作、生活和学习压力陡增;另一方面是因为现在的许多人的心理承受能力减弱,很容易产生情绪波动。 为了确保可以拥有健康的生活,大家一定要积极的做好抑郁症预防。保证充足的睡眠,加强身体运动等。 1、W3C 批准 WebAuthn World Wide Web Consortium (W3C) 宣布 Web Authentication API (WebAuthn) 成为正式的 Web 标准。WebAuthn 为 Web 应用和服务提供了无密码的公钥身份认证接口,获得了 Airbnb、阿里巴巴、Apple、Google、IBM、Intel,、Microsoft、Mozilla、PayPal、SoftBank、腾讯和 Yubico 等公司的支持,允许用户使用生物识别、移动设备等登录在线账号。主流浏览器如 Google Chrome、Mozilla Firefox 和 Microsoft Edge 都已经在去年加入了对 WebAuthn 的支持,苹果的 Safari 浏览器则在预览版中加入了对 WebAuthn 的支持。 2、微信上线好物圈功能,类似推荐商品的朋友圈 3 月 5 日消息,微信近期上线「好物圈」功能,可为朋友推荐值得拥有的好东西,相当于推荐商品的「朋友圈」。目前该应用入口在小程序—搜索小程序—好物圈,用户触达入口较深。 觉得这些资讯有帮助?请转发给更多人 关注技术最前线 加星标,看 IT 要闻 喜欢就点一下「好看」呗~ (编辑:晋中站长网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |