让智能筹算无处不在,高通ChinaJoy AIGC除夜会展看终端侧AI行业赋能

休闲 4754℃

  本文来自@flypig

  Jon McCorMack 是专访总裁位很滑稽的摄影师。他的副记忆 Instgram 页面上 (/jonmccorMackphoto)布满了人文和景物摄影作品——加州的鲸 、南极的关于冰川 、肯尼亚的系列原居平易近。从头像看 ,琐细他经常独霸的专访总裁机身是 SONY 全画幅数码相机,转接 Leica 的副记忆 Elmarit-M 24mm F/2.8 ASPH 镜头 。他是关于资深的对象党。

  不拿开麦拉的系列时辰 ,他在 Apple 担当软件副总裁 。琐细他的专访总裁次要工作 :进一步汲引 iPhone 的记忆琐细。

  在测试了 iPhone 12 和 12 Pro 此后 ,副记忆我对记忆琐细中的关于改进除夜感快活 ,筹算摄影的系列加成功不成没 ,同时,琐细我也产生发火了良多疑问 。在和 Jon McCorMack 的越洋德律风中,他举办了尽大年夜大年夜约详实的答复。

  - 我们在本年的 iPhone 宣布会上听到了良多次‘筹算摄影’(computational photography)。您是 Apple 担当软件的副总裁,又是一个精细的人文摄影师 。您若何对待‘筹算’和‘摄影’之间的相干?

  在畴昔 ,我们要创作出画质更好的照片,只能在‘拍摄’这个环节往汲引硬件 。我们买特别很是特别很是除夜的胶片——除夜画幅相机的底片真的很除夜一张,拆卸起来也很贫穷——往买特别很是特别很是贵的镜头 ,往手动独霸景深和暴光  ,慎重地按下快门 。

  可是我们如今用的 iPhone ,镜头只需这么小  ,感光元件也只需指甲盖除夜。那么我们若何找回模仿时代的体验?我们要靠‘筹算’ ,让手机做良多的数学题,经由过程各个传感器——比如最新介入的 LiDAR——掉落踪掉落踪的信息 ,让手机主动完成畴昔‘数码暗房’熟行动完成的工作。

  - 那么,‘打赢专业的单反和片子机’是你们的方针吗 ?

  这不是我们的思惟编制 。

  我们在 iPhone 12 的样片拍摄过程中 ,能把摄制团队膨胀到特别很是小,只需几小我就完成了样片拍摄 。畴昔 ,你要拍摄多么的镜头,要良多人,有的人扛机械,有的人测光,有的人对焦 ,有的人独霸片子机。这类改削 ,才是我们工作的中心。

  我们的方针是让每小我都能陈述本身的故事 ,并且让每小我都能用到最好的科技——比如‘杜比视界’  。他们可以从口袋里掏出一台玲珑的手机,拍下身边温馨的画面,完成编辑 ,再分享出往 ,全数流程里都是‘杜比视界 HDR’的视频。这类体验特别很是夸姣 。

  - 但如今的手机视频,似乎还不像手机摄影片那样,在‘筹算摄影’上抵达很高的完成度  。这里面的瓶颈是甚么 ?

  拍摄视频和拍摄照片还不太一样 。在拍摄照片的时辰,手机有充分的时分 ,往做后置的筹算措置。可是在拍摄视频的时辰 ,一秒有 30 帧甚至 60 帧  ,需求完成的筹算义务就特别很是多了。

  在畴昔的几年时分里 ,手机视频的中心影调的成像质量已被措置得很好,大年夜师的程度都差不多。

  那么,挑衅次要集结在暗影和高光。你寄看不雅不雅不雅不雅不雅不雅不雅不雅不雅不雅不雅不雅不雅不雅不雅不雅查询拜访的话,本年 iPhone 在画面暗部的噪声已少了良多,画面干净了良多 。此外,我们本年将视频的色深从 8 比特汲引到了 10 比特 。我们独霸多记实的这些色采信息 ,也对高光做了更好的恢复。

  另有 ,我们本年在延时摄影里也介入了‘夜景编制’。这理论上是视频的局限,不是拍摄静态照片 。这和照片的‘夜景编制’理论上是两套不合的代码,因为拍视频需求更快的措置。照片和视频的‘夜景编制’里 ,共享了良多筹算逻辑和常识 ,但本质上仍长短常不合 。

  - 你感应感染如今手机感光元件的理论静态局限 ,可以喂饱 HDR 视频所能承载的静态局限吗?

  手机视频的改进是一条特别很是漫长的路途。A14 这个芯片,里面介入了除夜量对 HDR 视频拍摄身手的优化。它的神经群集引擎速度汲引了 80% ,它供给了很强的多帧迟滞融合(fusion)身手 。你将 iPhone 12 Pro 的视频和上一代比照 ,已有了长足的进步 。

  而在将来 ,你会看到更多这方面的汲引 。

  - 我看如今 iPhone 的‘杜比视界 HDR’视频 ,传到电脑受愚前是 HLG 曲线。这和我们畴昔措置的‘杜比视界’素材——它们都采取了记实尽对亮度值的 PQ 曲线——似乎不太一样 。为甚么这么做?

  在 iPhone 内部,这是一个无缺的‘杜比视界’拍摄流程 。这是一个全新的 8.4 版本的标准 。我们和杜比举办了很深切的合作,这个标准将会掉落踪掉落踪更除夜局限的独霸,将会有更多的设备从中受害 。

  你看到的 HLG 曲线是为了更好的兼容性。我们希看这个导出的视频文件 ,可以在各类各式的设备和屏幕上不美旁不雅不雅不雅不雅不雅不雅 ,而 HLG 曲线知足了这个需求 。

  - 我看如今的 HDR 视频,假定直接从手机传到敷衍群集上,色彩有点偏向。这个兼容性问题若何措置?

  在 iPhone 内部的视频流程里 ,我们保管了两套 metadata ,一套对应于 HDR,一套对应 SDR。

  跟着 iPhone 12 和 12 Pro 的上市  ,我们将会推送新的 iOS 版本,到时辰会有新添加的 API ,让 app 陈述琐细 ,他们可否支撑杜比视界 HDR 视频  ,多么琐细就会上传切确静态局限的版本 。

  - 本年的 HDR 照片,我看似乎和旧年的 HDR 视频不太一样 。似乎高光更亮了?是多么吗?

  比照于 iPhone 11 Pro 拍摄的 HDR 照片,我们本年在存储上往的照片文件里面 ,还添加了一个‘高光导图’(Highlight Map)   。

  多么可以充分独霸我们本年推出的 Super Retina XDR Display 来揭显露更高两档的高光,让用户直接在手机屏幕上看到更除夜的静态局限 。这也是为甚么 ,你在手机上看你拍的蓝天白云  ,会感应感染云比畴昔的手机上更亮了一些 。

  - 感激冲动冲动。

  采访者注  :

  在测试过程中,我们看到 ,独霸 iPhone 12 系列拍摄的视频 ,HDR format 是‘Dolby Vision, Version 1.0, dvhe.08.04, BL+RPU , HLG compatible’。

  在‘dvhe.08.04’字符串中 ,‘dvhe’指杜比视界高功用膨胀视频(Dolby Vision High Efficiency) 。屈就***《Dolby Vision Profiles and Levels Version 1.3.2》的信息,‘08’指 profile 版本为 8,‘04’指 level 为 1920 x 1080 @ 30 。

  Profile 8 的编码为‘10-bit HEVC’  ,旗子记号兼容性为‘1 , 2, or 4’,既 HDR10、SDR 及一种‘在特定的播送和挪动设备’上工作和‘为了某些特定设备优化’的标准。(援引自杜比在 2019 年 9 月 16 日宣布的悍然材料  。)

  ‘BL+RPU’指‘base layer + reference picture unit’ 。我们料想 , iPhone 拍摄的 HDR 视频大年夜大年夜约在 HLG 曲线以外,为回放设备供给了切确分析 SDR 和 HDR 色采的参考信息(RPU),将 HLG 曲线记实的色采举办再次分析——既是 Jon McCorMack 所说的‘两套元数据’ 。

  理论上在 iPhone 12 录制的视频里,存在三套元数据。我们且则没法知晓各自对应的用处 。

  阻拦发稿时为止 ,搜刮不到更多的关于‘Dolby Vision Profile 8.4’和 iOS 、MacOS、tvOS 上关于‘杜比视界新 API’的材料 。