• 问答
  • 技术
  • 实践
  • 资源

  • 0

    关注
  • 0

    获赞
  • 0

    精选文章
近期动态
  • 专栏文章
  • 社区提问
CNN、Transformer、MLP 架构的经验性分析

原创 pprp GiantPandaCV GiantPandaCV 【GiantPandaCV导语】 ViT的兴起挑战了CNN的地位,随之而来的是MLP系列方法。三种架构各有特点,为了公平地比较几种架构,本文提出了统一化的框架SPACH来对比,得到了具有一定...

  • 1
  • 0
  • 876
3000 字详解 Pandas 数据查询,建议收藏

原创 俊欣 关于数据分析与可视化 关于数据分析与可视化 今天讲怎么从DataFrame数据集中筛选符合指定条件的数据,希望会对读者朋友有所帮助。 导入数据集和模块 我们先导入pandas模块,并且读取数据,代码如下 imp...

  • 1
  • 0
  • 984
PyTorch 源码解读 | torch.cuda.amp: 自动混合精度详解

OpenMMLab 商汤学术 商汤学术 原文链接: https://zhuanlan.zhihu.com/p/348554267 0/引言 Nvidia 在 Volta 架构中引入 Tensor Core 单元,来支持 FP32 和 FP16 混合精度计算。也在 2018 年提出一个 PyTorch 拓展 a...

  • 1
  • 0
  • 893
关于炼丹,你是否知道这些细节?

GiantPandaCV 作者丨Fatescript 来源丨https://zhuanlan.zhihu.com/p/450779978 编辑丨GiantPandaCV 序 本文算是我工作一年多以来的一些想法和经验,最早发布在旷视研究院内部的论坛中,本着开放和分享的精神发布...

  • 1
  • 0
  • 2.2k
机器学习模型融合方法综述

原创 贝塔 NLP情报局 大家好,我是Giant。最近我发现读者群里很多同学都对算法竞赛产生了兴趣,不少人已经开始自发组队,准备打榜Kaggle了。 于是我邀请了Kaggle Master贝塔同学,对竞赛中常用的模型融合方法做了一...

  • 2
  • 0
  • 1.9k
用 YOLO v5+DeepSORT,打造实时多目标跟踪模型

来源 | AI有道 目标跟踪 (Object Tracking) 是机器视觉领域的重要课题,根据跟踪目标的数量,可分为单目标跟踪 (Single Object Tracking,简称 SOT) 和多目标跟踪 (Multi Object Tracking,简称 MOT)。 多目标跟踪往...

  • 2
  • 0
  • 7.0k
百年奥运回望:125 年里,我们不曾放弃用 CV 寻求公平

来源 | AI掘金志 从模糊不清到高清画质,从黑白相片到彩色视频,从报纸观赛到网络直播,从肉眼判定到复杂的 AI系统,从控制室到重播屏幕再到移动转播车到云上直播。世人每拿起一次奥运会的万花筒,看到的是数字代码...

  • 0
  • 0
  • 1.9k
归纳偏置多余了?靠 “数据堆砌” 火拼 Transformer,MLP 架构可有胜算?

来源|AI科技评论 前段时间,一场关于MLP与Transformer的较量在学术圈闹得沸沸扬扬。 起因是,谷歌在《MLP-Mixer: An all-MLP Architecture for Vision》论文中提出,无需卷积模块和注意力机制,纯MLP架构也可以达到...

  • 1
  • 0
  • 3.1k
transformer 中: self-attention 部分是否需要进行 mask?

来源| 空字符 1 Transformer中的掩码 由于在实现多头注意力时需要考虑到各种情况下的掩码,因此在这里需要先对这部分内容进行介绍。在Transformer中,主要有两个地方会用到掩码这一机制。第1个地方就是在上一篇文章...

  • 0
  • 0
  • 3.4k
UC 伯克利华人一作:卷积让视觉 Transformer 性能更强,ImageNet 继续刷点!

来源 | arXiv | AI有道 Convolutional stem is all you need! Facebook AI和UC伯克利联手,探究视觉Transformer优化不稳定的本质原因,只需把patchify stem替换成convolutional stem,视觉Transformer就会性能更强,...

  • 0
  • 0
  • 2.5k
深度学习中的重参数机制总结和实现

来源:mayiwei1998 GiantPandaCV 【写在前面】 最近拜读了丁霄汉大神的一系列重参数的论文,觉得这个思想真的很妙。能够在将所有的cost都放在训练过程中,在测试的时候能够在所有的网络参数和计算量都进行缩减。目...

  • 1
  • 0
  • 2.2k
席卷 Kaggle 的调参神器,NN 和树模型通吃!

作者丨杰少 来源丨kaggle竞赛宝典 简介 目前非常多的超参寻优算法都不可避免的有下面的一个或者多个问题: 需要人为的定义搜索空间; 没有剪枝操作,导致搜索耗时巨大; 无法通过小的设置变化使其适用于大的和小的数...

  • 1
  • 0
  • 1.1k
复旦邱锡鹏组最新综述:A Survey of Transformers!

作者丨TniL@知乎 ​来源丨https://zhuanlan.zhihu.com/p/379057424 转眼Transformer模型被提出了4年了。依靠弱归纳偏置、易于并行的结构,Transformer已经成为了NLP领域的宠儿,并且最近在CV等领域的潜能也在逐渐被挖...

  • 0
  • 0
  • 1.4k
深度学习中的 Attention 机制总结与代码实现(2017-2021年)

作者丨mayiwei1998 来源丨GiantPandaCV 近几年,Attention-based方法因其可解释和有效性,受到了学术界和工业界的欢迎。但是,由于论文中提出的网络结构通常被嵌入到分类、检测、分割等代码框架中,导致代码比较冗余...

  • 0
  • 0
  • 1.8k
干货|10 大 PyTorch 最常用的转换函数

作者丨磐怼怼 来源丨深度学习与计算机视觉 介绍Pytorch是一个深度学习框架,广泛用于图像分类、分割、目标识别等各种任务。在这种情况下,我们必须处理各种类型的数据。很可能在大多数情况下,数据可能不是我们所需...

  • 0
  • 0
  • 1.2k
两年"菜鸟"算法工程师的阶段性总结

王鹏@zhihu 不知不觉,笔者已经做了在算法工程师这个热门的岗位已经两年了。笔者本身学习的化工专业。当年毕业不知道是因为打心底热爱算法,还是因为图这个岗位所能带来的钱财,总之,在花了两年的时间摸爬滚打之后...

  • 0
  • 0
  • 1.8k
深度图像修复的一个新突破

来源:ronghuaiyang AI公园作者:Chu-Tak Li 编译:ronghuaiyang 导读 使用上下文注意力来进行深度图像修复。 今天,我们将深入探讨深度图像修复的一个突破,上下文注意力。通过使用上下文注意力,我们可以有效地...

  • 0
  • 0
  • 2.2k
使用 pytorch 时,训练集数据太多达到上千万张,Dataloader 加载很慢怎么办?

来源:人民艺术家 (知乎) 预处理提速 尽量减少每次读取数据时的预处理操作,可以考虑把一些固定的操作,例如 resize ,事先处理好保存下来,训练的时候直接拿来用 Linux上将预处理搬到GPU上加速: NVIDIA/DALI :htt...

  • 1
  • 0
  • 6.9k
5 个方法让你的模型加速(附代码解析)

来源:原创 CSDN App AI科技大本营作者 | 卢誉声 编辑 | Jane 【导读】AIoT时代来临,移动平台正在成为工业实践最重要的阵地!如何把智能装进移动端,开发移动平台人工智能系统解决方案?这次,我们不止为大家分享...

  • 0
  • 0
  • 2.1k
基于 OpenCV 的图像强度操作

来源:原创 努比 小白学视觉 01. 什么是图像强度操作 更改任何通道中的像素值 对图像的数学运算 亮度变化 对比度变化 伽玛操纵 直方图均衡 图像预处理中的滤波等增强 使用OpenCV加载图像 import numpy as np import...

  • 0
  • 0
  • 2.5k
YOLO-v4 目标检测实时手机端实现

来源:计算机视觉研究院@微信公众号 由美国东北大学王言治教授研究团队与美国威廉玛丽学院任彬教授研究团队共同提出,IBM、清华等共同研究的模式化稀疏度感知训练框架,不仅能够同时实现卷积核稀疏模式的全自动提取...

  • 0
  • 0
  • 2.1k
深度学习中的图像分割:方法和应用

来源:公众号 AI公园  作者:missinglink.ai 导读 介绍使图像分割的方法,包括传统方法和深度学习方法,以及应用场景。 基于人工智能和深度学习方法的现代计算机视觉技术在过去10年里取得了显著进展。如今,它被用于...

  • 0
  • 0
  • 2.8k
梯度下降算法的工作原理

来源:原创 磐怼怼 深度学习与计算机视觉 梯度下降算法是工业中最常用的机器学习算法之一,但也是很多新手难以理解的算法之一。 如果你刚刚接触机器学习,那么梯度下降算法背后的数学原理是比较难理解的。在本文中,...

  • 0
  • 1
  • 2.2k
用最简单的方式训练史上最强 ResNet-50,性能超过魔改结构的 ResNeSt

来源:原创 让你更懂AI PaperWeekly 近日,CMU 的研究人员在 arXiv 上放出了一份技术报告,介绍他们如何通过蒸馏(distillation)训练一个强大的小模型。所提出方法使用相同模型结构和输入图片大小的前提下,在 Imag...

  • 0
  • 0
  • 2.9k
【电子书】《计算机视觉 模型、学习和推理 Computer vision:models,learning and inference》(英文原版)

图书简介: 这种现代的计算机视觉处理方法着重于将概率模型中的学习和推理作为一个统一的主题。它显示了如何使用训练数据来学习观察到的图像数据与我们希望估计的世界各个方面(例如3D结构或对象类别)之间的关系,...

  • 0
  • 0
  • 3.7k
炼丹感悟——深度神经网络超详细解读

原创 Edison_G 计算机视觉研究院 作者:Edison_G 今天给大家讲讲DNN(深度神经网络)在训练过程中遇到的一些问题,然后我们应该怎么去注意它,并学会怎么去训练它。 1、数据集的准备: 必须要保证大量、高质量且带有...

  • 0
  • 0
  • 2.5k
加载更多
的专业名片

  • NaN

    关注
  • NaN

    获赞
  • NaN

    精选文章
所获殊荣

扫描二维码,进入极市社区
找到更多CV大咖

他的专栏