大家好！爱吃爱玩爱学技术。我是IT行业的新晋网红，开发者的好朋友——比特熊！你看过《青春变形记》吗？特别声明一下，不是比特熊Cosplay的未来模样~比特熊：三月故事请来的嘉宾很有来头！在我们的【比特熊直播间】坐着李哲傲，他是我在Pycon中国北京站认识的社区明星，也是微软MVP团队中非常受欢迎的老师；在线直播间里还有一位比特熊的好朋友OpenVINO中文社区诺诺介绍给我的是英特尔的大师邵文建先生！【比特熊故事集锦】作为比特熊直播间的重要栏目，我们定期邀请技术大咖和行业先锋来访。这里不仅讨论最热门的技术，还有更多个人故事和趣味话题等你解锁！请大家继续关注，鼓励大家推荐自己想知道的“英雄”。欢迎大家来到直播间，和比特熊一起近距离聊聊达人。欢迎大家访问MSLearn学习平台，与比特熊一起规划学习路径，加速比特熊的前进：给大家分享【比特熊故事合集】的独家爆料——李哲傲老师心中的超级英雄是奥特曼！整个奥特曼系列他都看过！邵文健先生有喜欢的英雄吗？先请邵老师说说技术干货。彩蛋部分请在文中仔细寻找！邵文健：云计算、物计算、边缘计算、边缘联盟……这些词最近很火，那么边缘计算到底是什么？简单来说，边缘计算起到承上启下的作用，将端侧的物联网设备与云端的核心网数据中心连接起来。从这组研究数据可以看出边缘计算的重要性：45%的数据将在边缘进行存储、分析和操作，43%的人工智能任务将发生在边缘设备上。这份报告发表于2017年，预测到明年2023年，人工智能边缘设备的部署将出现15倍的爆炸式增长。比特熊：邵文建先生总结了推动边缘计算发展的四大因素。他的智能视频边缘计算领域很好地说明了这些需求的存在。1.低延迟要求。现在很多小区可以自动开闸和关闸进行车牌识别，但是如果你的车牌被摄像头拍到，通过网络传到核心网，再传到数据中心，一起排队这里收集了大量的数据。再发回去，这个周期的延迟可能会达到十几秒甚至几十秒，这在实际应用中是完全不能接受的。在工业生产线中，机器视觉对时延的要求比较高，基本在毫秒级别，所以低时延对于很多视频应用来说非常重要。2.带宽成本。4G、5G虽然发展很快，但是视频数据量还是太大了。视频码率从1Mbps到4~10Mbps，现在已经部署了10亿个IP摄像头。如果所有的数据都必须收集到云端，否则随之而来的带宽成本在当前的技术和运营模式下是无法承受的。3.数据安全和个人隐私。每个人都越来越重视隐私保护。面部和车辆图像是重要信息。国家正在制定标准，要求涉及个人隐私的数据在边缘进行计算，脱敏后上传到云端进一步服务。4.连接稳定。我是通信专业的学生，??想要实现端到端稳定的视频连接并不容易。如果您了解视频编解码器，就会知道视频数据实际上是连续的。如果连接不稳定，一帧的丢失会导致几十帧甚至上百帧的数据连续丢失。下图以安防场景为例展示智能视频边缘计算的实现：智能视频边缘计算在各个领域都有很多应用，比如基于人工智能的视频结构化，就是将我们感兴趣的所有信息进行转换在视频中转化为结构化数据库中的数据，对AI处理的要求非常高。邵文建：我们英特尔OpenVINO社区一直在为这个领域做贡献。大家都知道英特尔提供了多种硬件产品，从凌动到酷睿再到至强。我们还有FPGA产品和基于VPU（VisionProcessor）的视觉加速产品。这些硬件产品和解决方案可以通过英特尔提供的软件工具和软件开发包进行连接。这里有两个适合您：英特尔?媒体SDK和OpenVINO。MediaSDK是一款高性能的视频编解码器和图像处理软件工具。经过多年的发展，今年将告一段落。它的替代/下一代称为oneVPL，将于今年推出。它比MediaSDK更高效，并且基本保持了MediaSDK的编程和界面风格。OpenVINO是英特尔的软件，用于在人工智能中快速部署和加速AI推理工作负载。下图显示了OpenVINO的基本工作模式。两个核心模块是模型优化器和推理引擎。OpenVINO从2018年到2022年经历了4年的发展，2022.1版本的OpenVINO对我们来说也是一个比较大的里程碑。主要有以下新特性：1、OpenModelZoo支持更多领域系列模型，新增33个新模型；简化依赖库的管理；推出了全新的API2.0，与主流AI编程方式一致。2.提高兼容性，简化ModelOptimizer的参数，支持Dynamicinputshape...直接支持PaddlePaddle模型。3、部署支持将很多预处理任务集成到模型中；支持自动插件；添加性能配置提示，例如在低延迟和高吞吐量之间进行选择；优化首次推理延迟。2022.1版本在生产效率、兼容性、性能等方面有了很大的提升。为中文社区和中文人工智能用户提供了极大的便利。希望我们的社区用户和开发者有机会可以去OpenVINO官网下载试用OpenVINO。小熊：我已经被它迷住了。我刚刚听到一些信息，是关于坐在我旁边的李哲奥先生的。我特地给李哲奥先生一个机会，代表大家向邵文健先生提问。李哲傲：对于推理或者深度学习，边缘设备的治理或者模型的分发，以及控制平面上的一些东西，OpenVINO是否提供了一套开箱即用的模型交付和灰度解决方案？楷模。邵文健：据我所知，目前还没有这样的应用。现在有一个叫OpenVINOModelServer的应用，它把一个网络Inference做成一个服务供其他应用调用；这取决于OpenVINO是否计划在未来提供它。这种能力还需要与边缘平台集成，尤其是那些基于k8s或k3s的边缘平台。李哲奥：我也想了解一下，今年甚至明年OpenVINO还有哪些发展方向？有什么要透露的吗？邵文健：我们之前推出了AlderLake桌面版和移动版的最新CPU，这是业界首款混合架构CPU。今年下半年，下一代至强服务器SapphireRapids将发布，全新指令级AMX（IntelAdvancedMatrixExtensions），可直接支持矩阵层。我认为OpenVINO的首要任务是性能优化，支持Intel硬件，发挥新架构的性能，提高兼容性。李哲奥：期待OpenVINO在新的至强服务器上运行什么。邵文健：稍微透露一下，肯定会有惊喜。比特熊：好吧好吧，你再问下去，就涉及商业机密了！有请李哲奥老师给大家分享一些内容！李哲奥：我的分享可能比邵老师的分享更受欢迎。大家不准笑我打我。今天其实想说说Python，重点说说3.9，或者说它在过去一年里的一些变化。小熊，你用过Python吗？比特熊：熊熊刚开始做直播的时候，是跟微软云游者陆老师（陆建辉）进行线上workshop。李哲傲：现在很多场合都会用到Python，比如刚才邵老师提到的深度学习，PyTorch或者TensorFlow等等，都是用Python作为DSL的前端。同时，Python在后端开发和传统SRE场景中也有很多应用，比如豆瓣、饿了么、今日头条等都是以Python为主要服务，国外的Instagram、Reddit也是如此。到了2022年，大家可能会有一些怨言，比如写了一会儿动态类型，然后重构了全家XXX，被老板骂了是吧？另外，Python的性能不好，或者说Python缺少一些其他语言标准的东西。大家一直都说Python是一门动态语言，具有丰富的表现力，但同时它在很多方面也并不完美。纵观这一年，Python主要围绕语法特性的增强、标准库的增强、性能的提升三个方面展开。标准库的增强还包括清理一些历史债务。语法改进给我印象最深的是PEP，PEP（PythonEnhancementProposal）是EnhancementProposal的缩写。634、635、636的Python匹配（模式匹配）终于来了。根据不同的400、404、418，返回不同的东西，进行不同的处理。以前大家可能只会用if或者else来模拟这么一个特殊的语法糖，所以在这三个PEP之后，也就是3.10之后，Python笑称终于有了C语言七年才有的东西——switch案例，你以为你这么激动吗？我们可以看一下这个稍微复杂一点的例子：与之前各个分支上的if/else相比，我们可以做到很大程度的语义一致性，也就是我们可以近似人类语言，或者说符合直觉的写代码在这样一来，你就可以一目了然地看到这段代码在做什么，而且它还支持更复杂的解构和解析行为……之前引起Python社区分裂的一个提议被称为PEP572的海象运算符……它让我们的代码编写起来更加灵活，但我个人认为使用它并不太令人兴奋。如果你写的代码太魔性了，重构的时候会被同事和老板打死。PEP612提出了一种称为参数类型的特殊类型。之前我们在使用Decorate装饰器的时候，最好是标记参数对象。你可能不知道如何标记它。也许一切都必须被标记……612之后，我们有了ParamSpec这样一个特殊的东西，我们使用类型提示就更方便了，它弥合了类型提示与Python和动态特性之间的鸿沟。第三点，大家一直很关心Python的性能。这是一个长期存在的难题。在一些对性能要求很高的场景，比如刚才邵老师介绍的PyTorch或者TensorFlow，还有我现在公司的太极图，我们会选择使用作为一个领域的DSL，Python额外的接管了它的一些runtime和doessomeprocessing...常见的工业场景，写一个webserver，做一些服务器。我饿了吗？Python是我们的核心服务，Python确实比Go等语言需要更多的内存资源。有人认为我用Python不需要性能，或者你需要性能，为什么要用Python？这两种观点都太偏激了，我们还是希望权衡一下。大家可以看到，在我的大部分项目中，Python基本实现了20%~25%以上的性能提升，但是目前是在没有引入git或者优化GIL性能的情况下完成的。我们可以看到社区在这方面做了很多努力。期待Python在保持性能和语法甜度的同时越来越快，达到一个平衡点，让更多的人更好地使用它。比特熊：李哲奥先生是如何结识微软MVP的，加入MVP后参加了哪些活动？李哲傲：我很早以前就是个软迷，我梦想中的笔记本是SurfaceBook2。大学的时候知道微软的MVP项目，感觉好遥远。微软全面拥抱开源15年，作为一名Python开发者，确实感受到了微软的大力支持，比如VSCodePython的作者，核心开发者Jupiter，Guido……爱屋和乌我变成了彻底的软粉。你可能知道，Cynthia是Reactor的现任经理，从2013年开始担任PyConChina的组织者。我在组织PyConChina时，Cynthia告诉我，既然你喜欢微软和Python，你应该申请吗？关于MVP？我试过了，第一次资料写的太简略被拒了，第二次申请通过了，2020年我正式成为MVP。比特熊：在你参加各种社区分享活动的时候，你可能还会遇到我们微软最有价值球员。如果你想申请，你也可以向他们征求意见。注意申请材料不要太简短！李哲奥先生说起他的学生时代，我想起了一篇关于邵文健先生的文章，提到邵先生从本科到博士，经历了通信工程、计算机、多媒体通信等不同专业。D.从丰富的经验出发，邵先生有什么心路历程吗？邵文建：那时候我们的学生没有现在的学生那么有思想，各种信息都容易获取。那时候，我们基本上都是听老师和家长的。老师们都说我理科好，可以学传播学，以后会有很好的发展，所以我就这样选择了本科专业。读研的时候没有现在这么火，但是大四的时候接触到了网络。我应该是中国最早使用互联网的人之一。我记得很清楚，那是一条64K的专线。我立即被互联网所吸引。我通过一根细线进入了整个世界，这对我影响很大。影响和影响，正好我们学校也有网络专业，所以转读研究生，主要研究网络传输和网络安全。出来创业，又是一个重大的转变——在边缘做人工智能……因为不管是学习通信还是网络，很多工作还是在边缘完成，甚至很多基于汇编的优化是在嵌入式系统中完成的。我认为每个人都需要开阔视野。如果你能在某一方面钻深一点，那你就可以继续钻下去，但对于大多数人来说，还是要勇于尝试新事物。以Python为例。Python有各种各样的库。如果你今天做的是web相关的工作，明天做的是数据治理，那么你必须要尝试很多。比特熊：比特熊认识的很多开发者都在创业过程中。邵老师作为亲身体验者，竟然拿到了A轮融资，经验分享功不可没。邵文健：我的建议是趁年轻，要大胆创业，35岁之前，这是人生最有活力、学习能力最强的阶段。创业就是压榨自己，压榨自己300%，能力就会飞速提升……当然还是那句话，创业有风险。有个笑话，这几年最失败的事情就是卖房创业吧？此外，止损和止盈非常重要。你可能花上两三年还是不行，所以你要当机立断。李哲奥：我个人不支持卖房创业。比特熊：开场前李哲澳老师跟我开玩笑说他要拍广告，现在机会来了！李哲傲：太极图文现在正在招人，我们的商业产品也在孵化过程中。我们太极编程语言的开源本身也需要编译器、图形、变形计算相关的同学参与进来，从R&D到SRE再到运维。招收所有学员，欢迎找比特熊（微信：BitsBear）获取直通车推荐~比特熊：【比特熊直播】大独家！两位老师可否透露下班后放松自己的方法？小熊：我先开始！邵先生的头像是蛋头博士《刺猬索尼克》。如果不是本熊的专程来访，谁能想到这位英特尔物联网视频事业部的总工程师会用这么可爱又生动的头像呢？李哲奥：一杯茶，在阳台上坐一天……心情不好的时候，我会去社区找一些项目，解决一些问题，用一些PR来改变心情。如果我写代码累了，我可能会去看看我感兴趣的论文，当然这是一种比较累的放松。如果我想彻底放松，那我可能会去复习《奥特曼》，看看里面的经典台词，再看看《数码宝贝》，我最喜欢第一部，最讨厌第六部。我一直是德所迷，喜欢奥特曼。反正我也没什么坏习惯，就靠这些来减压。即将到来《新·奥特曼》邵文健：我可以说去社区帮助别人解决问题就像玩游戏哈哈哈。李哲奥：我觉得挺好玩的。有时候在公司累了，可能会查一下issue。和别人讨论的时候，我会查各种资料。在扩展我的知识的同时，它也会转移你的注意力，让你的头脑得到休息。邵文健：我喜欢跑步。这是有理论依据的。运动可以产生多巴胺让我快乐。如果你最近工作不顺利，或者有什么事情没有很好解决，那就去散散步吧，真的可以产生多巴胺，但是记得量力而行。李哲奥：是的，但是像我这种懒人，心情不好的时候就想躺在床上，被女朋友踢起来让我运动，可是我连运动都做不到向上。比特熊有话要说三月份的MVP英雄故事，不仅有我们微软的MVP，还有英特尔的超级技术专家。比特熊非常荣幸能够和二人一起度过直播时光，经验值UpUp！邵文健老师的经历丰富多彩，比特熊甚至觉得有点传奇！多个专业的学习、成功的创业实践，以及程序开发、产品工程师、研发架构师等多个角色的无缝切换，现已成为支持英特尔物联网事业部全球视频业务推进的核心引擎。在事业和技术上，比特熊觉得邵总是一个值得仰望的高峰。但在生活中，邵老师鼓励每一位勇往直前的人努力突破自我，也推荐跑步、踢球等积极的方式来缓解压力。感谢邵老师对比特熊直播设备和运营模式的关心！李哲奥老师不愧是Python社区的大红人！虽然他自己说是顶着奔熊的DDL的压力准备的内容，但是不同于单纯的技术学习，比特熊看到了开发者的思维，拓宽了自己的逻辑维度。李哲奥老师具有鲜明的当代开发者标志。坐在直播间里，他也给比特熊和观众带来了很多积极向上跳跃的情绪。希望和比特熊一样是超软粉的哲傲老师，多和比特熊互动，继续活跃在微软MVP大家庭！虽然本期两位嘉宾的技术方向和经历大相径庭，但这并不影响两位嘉宾的精彩，无论是技术还是故事分享！希望大家和我一样，在三月享受【比特熊故事汇】Remix的魅力！喜欢三月的【比特熊物语】吗？您认为本期彩蛋是什么？你还想看到哪些技术分享或大咖？欢迎在文章下方评论，或将文章转发到朋友圈，发表你的看法和@比特熊。最爱开发者的熊仔当然给大家准备了礼物啦！快让我见到你，送礼物给你！预告——四月【比特熊故事汇】惊喜叠加，不负众望！锁定我的频道，精彩来袭！观看直播
