Archive : AWS

2022~2026 年 AI 伺服器出货量年复合成长率可达 10.8%

TrendForce 观察到始自 2018 年新兴应用题材带领,自驾车、AIoT 与边缘运算,许多大型云端业者大量投资 AI 相关设备建置,截至 2022 年,搭载 GPGPU(General Purpose GPU)的 AI 伺服器年出货量占整体伺服器比重近 1%,2023 年预估 ChatBot 相关应用加持下,可望再度刺激 AI 领域活络,出货量年成长可达 8%;2022~2026 年复合成长率达 10.8%。

TrendForce统计,2022年AI伺服器采购占比以北美四大云端业者Google、 AWS、Meta、微软合计占66.2%为最,中国近年随国产化力道加剧,AI建置浪潮增温,以字节跳动采购力最显着,年采购占比达6.2%,紧跟在後是腾讯、阿里巴巴与百度,分别约2.3%、1.5%与1. 5%。

藉AI最佳化自家搜寻引擎,AI需求持续带动HBM记忆体成长

看好AI发展前景,微软更大举投资OpenAI,除2月推出搜寻引擎Bing强化版,整合ChatGPT技术及与OpenAI合作开发大型语言模型「Prometheus」;百度也於2月宣布推出AI机器人服务「文心一言」( ERNIE Bot),初期将以独立软体呈现,後续也会导入搜寻引擎。

以运算规格看,ChatGPT以NVIDIA的A100为主,独家使用微软Azure云端资源。若合并其他微软应用计算,全年微软AI伺服器年需求为2.5万台。百度文心一言采NVIDIA的A800(美国商务部管制A100出口後的替代品),合并其他应用,百度AI伺服器年需求约2千台。TrendForce分析,以AI运算伺服器GPU而言,市场以NVIDIA的H100、A100、A800(满足中国需求)及AMD MI250、MI250X系列为主,NVIDIA与AMD伺服器GPU占比约8:2。

若聚焦以上GPU规格,因应高频宽运算的HBM(High Bandwidth Memory)更受市场瞩目。以位元计算,HBM占整个DRAM市场比重约1.5%,供应商以三星(Samsung)、SK海力士(SK Hynix)与美光(Micron)为主。 但NVIDIA的HBM3,SK海力士是目前唯一量产厂商,因此此规格主导市场,由於生产技术门槛高,对原厂属高毛利产品。

2020~2021年疫情期间担心供应链缺料,超额备料使HBM年需求成长率特别亮眼,自2023年起需求成长率因物料调节有收敛。TrendForce预估,2023~2025年HBM市场年复合成长率有望达40%~45%。整体而言,伴随全球云端业者逐年增加AI伺服器投资,尽管大环境受高通膨、经济增长放缓冲击,企业组织IT支出转趋保守,但ChatBot与搜寻引擎应用带动下,AI相关转型布局仍视为云端业者资本支出优先项目。

(首图来源:Created by …

是加值更是加「职」!转进云端职涯,成为企业眼里最炙手可热人才

台湾学界近年来培育出一批「云原生世代」,且频频在各项国际赛事中崭露头角,如阳明交通大学击败全球 15 万名竞争者,一举拿下 Amazon Web Services (AWS) 年度大会 re:Invent 中的重要竞赛 DeepRacer 前三名、逢甲大学云创学院学员连续两年抱走 AWS GameDay 冠军,这群云原生世代对於学习云端运算、掌握新技能有很高的兴趣,也热衷於参与产业实作课程,未来进入职场後将是企业推动数位转型的一大助力。

然而,相对於这群後进世代,整体产业却仍然面临极大的人才缺口,究竟组织与个人该怎麽因应这样的技能落差?

图说:AWS DeepRacer League 冠军赛中,由国立阳明交通大学电脑游戏与智慧实验室(CGI Lab)的施囿维、李颐、李政毅三位同学包办前三名。

组织为什麽需要云端人才?

根据《IDC 2022 全球 CEO 大调查》,高达 91% 的亚太区组织已经或计画采用「数位优先 (digital-first ) 」策略。而云端技术可以协助企业提高敏捷性、规模化、效率以及更快速的进行试验与创新,将成为数位优先策略的主轴。

AWS 大中华区培训与认证部门总监纪慧森指出:「因应企业把云端当成首要策略的发展态势,组织现在的投资着力点不该只有数位或云端解决方案,还包括协助转换营运思维及落地创新营运模式的云端人才。人才,才是企业最关键的转型资产。」

纪慧森引述 AlphaBeta 调查表示,亚太区对进阶云端预算以及资料科学相关技能的劳动力需求,预期到 2025 年前将会有 3 …

云端转型势在必行,资安、人才策略成关键要件! AWS 加值云端人才动能,如何以质变引起量变?

随着联准会持续升息,经济紧缩、景气寒冬接踵袭来,美国股市预计将迎来自 2008 年以来最糟糕的一年。企业如何在非常时期做好准备?根据 IDC 在 11 月的调查报告显示, 91% 的组织已经采用或是预计采用「数位优先(digital-first )」策略来备战,而以现代化云端为基础的技术,将会是多数企业的核心战略。

 作为全世界第一个提供公有云的服务商, Amazon Web Services (AWS) 台湾暨香港总经理王定恺在接受《TechOrange》Podcast 节目〈全新一周〉专访时指出,敏捷、韧性、迅速规模化,将是企业能否娴熟驾驭云端优势的三个决胜点,至於如何达成?则与企业如何建立组织文化及人才培育方式息息相关。

面对疫後严峻市场:「弹性、可用性、可扩展性」将是企业决胜点

「疫情前的旧经济时代,组织决策较缓慢,因为外在环境变化没那麽迅速,一切以高阶主管的经验主导即堪用,」王定恺指出,但疫後新经济时代,面对黑天鹅的群飞,挑战往往迅不及防。 

以乌俄战争为例。国土面积小俄罗斯 20 倍的乌克兰,在战争初期迅速将关键资料移到境外云端伺服器,好让指挥机构及国内金融体系能持续、稳定运作。而在这点上, AWS 也因为协助乌克兰政府将重要资料上云、维持数位设施与资料交换的可用性、稳定性,在去年 6 月被乌克兰政府授予和平奖章。

 「这种敏捷反应、弹性是旧时代技术架构做不到的,」王定恺解释 AWS 原本是亚马逊的内部技术单位,起初为了替网站创造高度黏着、良好使用者经验,设计了一套像是大型积木,能轻松拆分、组合以及迅速迭代的支援架构。不像传统软体的大型单一架构,光开规格就要处理很久,且软体研发完、发布後,就很难修改或做其他客制化变动。

王定恺指出,娴熟驾驭云端服务带来的效能,能替组织带来 3 项优势,首先是「弹性(flexibility)」,用积木型架构、不同序列,快速迭代、组合出使用者需要,企业不用再为了一个问题,就去购买一个新 Solution ,然後去部署、维运、测试等。「这些都是过时的软体开发概念,」王定恺认为,善用云端的弹性增加组织韧性,再用韧性处理面临的不确定性,将是面对严峻市场的一大利器。

云端另一个优势是「可用性(availability)」,「也就是要用的资料、服务能否随时随地存取、交换以及提供,」王定恺指出,组织透过云端带来的灵活可用性,能进一步提升服务上的一致性,让企业在本地市场、国际市场都能提供高品质服务,不受时间空间的范围限制。

 最後一个是「可扩展性(scalability)」,企业无法总是在黑天鹅现身前(例如超乎预期的流量峰值),就准备好大量额外的伺服器或其他技术资源,且事後这些资源难免成闲置资产。因此借助云端快速扩展特性,组织面对危急时刻才能以最精简有效率的方式捱过。

Security is Job Zero!没有资安维运,再强大的云端也是空谈…

AWS 也推元宇宙游戏?解决云端运算难题赚取积分,还可解锁新道具!

世界上许多新创公司、大型企业以及政府机构都会使用云端平台来降低成本、变得更灵活,且更迅速地创新。而 Amazon Web Services (AWS) 是全球最全面和广泛采纳的云端平台之一,透过全球资料中心提供许多功能完整的服务。而亚马逊为了让人们更容易掌握云端运算的功能,於日前推出了一款线上角色扮演游戏。

AWS 云端运算免费培训计画

Amazon Web Services (AWS) 日前宣布,将推出两项新的免费培训计划,让用户能够以有趣且引人入胜的方式轻松获得​​云端技能的培训。

第一项计画是一个3D 角色扮演游戏,称为 AWS Cloud Quest: Cloud Practitioner适合初学者或刚接触云端的成年人。

在整个冒险过程中,学习者可以探索核心 AWS 服务和学习各种不同的类别,如计算、存储、数据库和安全服务,并且透过构建基本的解决方案来了解云端运算。这款寓教於乐的培训课程也相当适合对於正在准备 AWS Certified Cloud Practitioner 考试的学习者。

用户登入 Amazon 帐号後,即可登入 AWS Cloud Quest: Cloud Practitioner 游戏的捏角画面。建立完自己的虚拟分身後,便可以在虚拟城市中四处移动,帮助城市中的居民解决各种云端的技术问题。

用户每完成一道题目就可以获得宝石和积分,完成一定数量的问题後,就可以解锁新的角色风格、宠物夥伴、城市主题和虚拟物品,如气垫板和独角兽泳圈等。…

2022 年影响世界的重大科技,AWS 技术长统整 5 大起飞中的重要趋势!

【为什麽我们要挑选这则新闻】AWS 的云端技术服务发展领先全世界。AWS 技术长Werner Vogels 统整出 2022 五大科技趋势,告诉我们从巨人的肩膀上,我们可以看到哪些对未来影响重大的关键技术呢?(责任编辑:邹昀倢)

我们进入到一个转折点。当 AWS 在 15 年前率先推出云端技术之後,云端基础设施已经发展到几乎可以覆盖地球上的任何角落,甚至是外太空。云端让曾经的科幻小说变成科学现实,人工智慧(AI)和机器学习(ML)领域的模型和技术变得越来越好,所以我们在现实生活中看到越来越多以前只能在电影和漫画中想像的场景涌现。

我们正进入到一个新阶段:资料极其多元,对资料的存取可说瞬间可及,而我们以更新、更加巧妙的方式,便能几乎不假思索地理解资料。当然,这些技术并不会取代人类,而是加强我们与世界沟通、互动的方式。2022 年将是在科技进步上更加激励人心的一年,技术将进一步推动人类和世界向前迈进。

预测一:AI支援的软体开发隆重登场

软体开发是个富有创造性的过程,但也有许多重复性质的工作。2022年,ML将开始在增强软体开发人员的工作流程方面发挥重要作用,帮助他们写出更安全、更可靠的程式码。

自从云端出现以来,我们看到世界各地的公司正以前所未有的速度大规模地为其客户带来创新。然而,即使产品交付速度加快,人们仍然在软体开发上花费了过多的时间。

虽然程式设计语言、软体开发套件(SDK)和其它增进效率的工具都有了些微改进,但这些都是微小的演变,目前还没看到有如其他技术那麽突破性地发展。

在过去几年里,我们已经为未来的软体开发奠定一些基础。我认为像 Amazon DevOps Guru、Amazon CodeGuru、GitHub Copilot 和 GPT-3 等工具是导向未来发展的第一步,其中 ML 可用於开发程式码和软体营运工作流程,帮助开发人员提高效率。在接下来的几年里,我相信该领域的能力将呈现爆炸性成长。

ML 将让开发人员从程式码查核和错误修正等繁琐、无差别的工作中解脱,使他们能够更加专注於创造。这些 ML 技术也将帮助我们以前所未有的速度编写复杂的系统,并以多种方式为新型类别的开发人员打开大门。

让我们想像一个场景,开发人员只需要描述他们希望应用程式如何执行,然後各种工具透过自然语言处理,解释他们的请求,并发回功能齐全的程式码。在後端,ML 技术也将检查软体错误,并不断检验软体是否完成其应该做的事项。

这种由ML支援的软体开发将重塑游戏规则,可以让整个组织的更多人帮助定义、建构软体与软体驱动的产品。长远来看,同样的 ML 方法将解放我们的能力,以创造更多用於各种其他领域的可能性,例如媒体创作。我们将看到生成式 AI 技术(generative …

【数位发展策略高峰论坛】台电未来会是一间高科技公司,台湾能源转型就靠云端数据了!

【我们为什麽挑选这篇新闻】如同电动车产业开始有生态系联盟,「新能源」的创新也有科技业者、新创公司、开发者一同合作,组成智慧电力的新能源联队,成为世界产业的解决方案。(责任编辑:戴相文)

你知道吗?在能源转型上,除了於电动车取代燃油车之趋势外,电力产业其实早已悄悄的进行能源革命。国际能源总署(International Energy Agency)指出,2035年全球能源需求将较目前增加三分之一,加上节能减碳的倡议、企业ESG的重视、人工智慧/物联网的导入、智慧电网的形成,电力产业的样貌,正走向全新的变革境界。

图为台湾电力公司总经理锺炳利。

「台电未来会是科技应用产业,用创新的方式提供电能与相关服务,」台湾电力公司总经理锺炳利说。10月21日「数位发展策高峰论坛」热闹展开,台电在大会中展示了如何透过云端导入实现「能源转型计画」,赢得各界一致好评。Amazon Web Services  AWS台湾暨香港总经理王定恺更称赞台电宛如一家高科技公司,对於企业变革与服务创新的起心动念,都已经是「数据思维」导向。

能源转型的关键核心:数位转型

事实上,台电於2020年确立在既有的组织转型、能源转型之外,并入数位转型的三大转型方向,早在2016年,台电成立水火力发电、核能发电、输供电及配售电4大事业部,建立「厂网分工」与「分离会计」制度。然而,此举也意味着各个事业单位,不仅将面对各自於「能源转型、数位转型」的任务,还必须顾及到数据、资讯、通讯上的整合。

「我们一直自我提醒,一旦数位转型没做好,能源转型也很难成功,」台电资讯系统处处长蔡修竹进一步指出,台电的数位转型,将基於「资料治理、资讯安全」下,以实施云端3层(基建即服务,IaaS、平台即服务,PaaS、软体即服务,SaaS)来完成「台电云端资料中心」,其目的就是纵向串联上下游厂商、横向连结内外部夥伴,交织成符合全球「能源革新潮流」的产业网络生态链。

可以预期,在台电的云端布局下,将每天产生数以百万计大量的数据,因此建构一个能让上中下游单位共同储存与使用的资料湖,也成了此次资料转型的重要关键。

图为AWS台湾暨香港总经理王定恺。

AWS:云架构+大数据,台电可当「全球解决方案供应商」

「资料就是新石油,拥有资料就好像坐在金山银山上,」AWS台湾暨香港总经理王定恺引用了经济学人期刊的观点,强调数据驱动时代下,企业产生、采集、储存、分析资料的重要性。他也指出AWS的资料湖服务,可以将所有结构化或非结构化资料汇集一处,随时供企业内外部使用。而AWS对於云端数据需求的掌握,则是来自早期在母公司亚马逊下,为电子商务提供网路建置与发展服务的耕耘。

在2006年以前,AWS只是母公司中的内部单位,协助母公司的网路运作,其後因为累积了丰富的研发、建置、导入经验,就把这些技术拿出来面向市场,提供给同样需要网路服务营运的企业客户,成为网路服务解决方案的供应者。此外,母公司以电商起家,电商已是微利产业,因此在电商四流(商流、物流、金流、资讯流)中都需要持续创新,利用科技来协助降低时间、费用、人力,这也是为何亚马逊会持续创新,投入无人车、无人机、无人商店等发展,就是希望做到「自动化」,并且鼓励「员工提案」主动发现问题、解决问题。

王定恺以上述自家公司AWS的发展为例,期许台电在实施数位转型的同时,也能将云端化、资料化、数位化的Know-How转换成云端技术服务,并结合台湾半导体、传感器、智慧电网的供应链,发展出电力产业的整体解决方案,成为全球能源市场的提供者。

在能源产业上,AWS也有着服务全球大型客户的成功经验,包含:

・美国GE(通用电气)建构资料分析服务

・英国EDF(法国公用电力公司之子公司)打造媒合交易平台

・法国Engie(官方持股能源公司)建立数据共享的Common Data Hub

・义大利Enel(义大利国家电力集团)导入AWS green grass在智慧电表中

「在新经济中,云到哪里,服务就到哪里;服务到哪里,营收就到哪里,」王定恺说,这就像人们不会关心外送服务的总公司设在哪边,只会在意能不能满足订餐需求,这就是云基础的商业模式真相,任何人、企业、政府或组织,都可以透过AWS这张覆盖全世界的公有云,来实现科技创新、改造企业流程、发展获利服务。

国安级资安防护:不只供电,还能打造创新服务

处长蔡修竹对此补充,台电实施全云端基础的数位转型,正是希望为日後事业发展打开大门,如:

・智慧调度:将再生能源、并网等资料整合回台电的智慧电网管理系统;

・智慧巡检:与电力设备厂商共同建立维运平台,达到即时监控与预测;

・智慧能源:结合AI、AMI智慧电表基础建设,开放数据与新创公司合作。

以「电力成数据、数据成资源」与跨领域企业、新创公司结合,开发出有利於社会与民众的服务,然而,这都必须在卓越的「资料治理」与「资讯安全」基础之上,确保公有云、数据开源的使用安全无虞。

「最害怕云端不安全的,就是政府单位与金融单位,」王定恺也以此二者为例回应,说明包含美国联邦政府、美国国务院、财政部、国防部,甚至鼎鼎大名的中情局CIA,都是AWS云端服务的客户。王定恺再以日本政府举例,过去日本被认为是保守中的保守,而日本政府却宣布放弃自建的公有云霞关云,全面采用AWS的云端技术,足见在安全性上的信赖。

同样对资安无比要求的金融单位上,包含香港的金管会、证券会、证交所也都是AWS的客户。为何一向主张不能采用外部云端服务的金融单位,都愿意采用AWS做为後台架构?因为如若要有效实施「监管科技RegTech」就必须采用最新的技术,如美国FINRA金管会更将95%的资料放在AWS上,才能有效管理金融上的异常交易行为、高频交易分析,高频交易撮合。

连结云端,看见能源台湾

「科技应用的关键,在於洞察出每一个人的需求,用创新为每一个小众族群提供服务,聚沙成塔的获利就产生了新经济,」台湾电力公司数位长 副总经理张忠良博士呼吁,如同电动车产业开始有生态系联盟,新能源的创新也必须跟得上脚步,期许科技业者、新创公司、开发者一同来合作,组成智慧电力的新能源联队,把台电当作创新实验的练功场域,再一起把练好的功产品化,成为世界产业的解决方案。

王定恺在论坛最後也建议,对於全球产业的贡献,Taiwan …