Deep Learning on 中文AI术语词典

双曲正切 (Tanh)

Sat, 18 Jul 2026 11:35:43 +0000

Definition

双曲正切（Tanh）函数是一种非线性激活函数，常用于神经网络。它将输入值压缩到(-1, 1)区间内，提供零中心的输出，这有助于加速收敛。

Summary

Tanh（双曲正切）是一种激活函数，将输入值映射到-1到1的范围之间。

Key Concepts

激活函数
非线性
零中心输出
反向传播

Use Cases

循环神经网络
LSTM单元门控
多层感知机中的隐藏层

Code Example

import numpy as np
def tanh(x):
 return np.tanh(x)

相似度学习

Sat, 18 Jul 2026 11:33:18 +0000

Definition

相似度学习专注于训练模型，将输入映射到向量空间，其中相似的项目彼此靠近，不相似的项目相距较远。常用的技术包括孪生网络和三元组损失函数。

Summary

一种机器学习方法，通过学习距离度量来确定两个对象之间的相似或不相似程度。

Key Concepts

嵌入空间
距离度量
三元组损失
孪生网络

Use Cases

人脸识别
重复项检测
推荐系统

句子变换器

Sat, 18 Jul 2026 11:33:07 +0000

Definition

句子变换器是传统变换器模型（如BERT）的扩展，经过微调以产生整个句子的有意义稠密向量表示。与标准的基于标记的模型不同，它们直接输出句子级别的嵌入。

Summary

专门设计用于为任意文本句子生成固定大小向量嵌入的神经网络架构。

Key Concepts

池化层
对比学习
稠密嵌入
变换器架构

Use Cases

语义搜索引擎
文本数据聚类
检索增强生成 (RAG) 管道

重参数化技巧

Sat, 18 Jul 2026 11:32:14 +0000

Definition

重参数化技巧是变分自编码器及其他概率模型中使用的一种基本方法。它通过将随机变量表示为确定性函数和独立噪声变量的组合，使得梯度能够流经随机节点，从而允许使用反向传播算法进行优化。

Summary

一种将随机变量与可学习参数分离的技术，旨在变分推断中实现基于梯度的优化。

Key Concepts

变分推断
梯度估计
随机节点
可微模拟

Use Cases

训练变分自编码器 (VAE)
贝叶斯神经网络
概率图模型

Code Example

import torch
epsilon = torch.randn(100, 10)
mu = torch.zeros(100, 10)
sigma = torch.ones(100, 10)
z = mu + sigma * epsilon # Reparameterized sampling

Pyannote Audio

Sat, 18 Jul 2026 11:31:05 +0000

Definition

Pyannote Audio 是一个综合性的工具包，旨在促进说话人日志系统的开发和部署。它提供了一系列预训练的神经网络模型，用于执行各

Summary

Pyannote Audio 是一个用于构建说话人日志流水线的模块化工具包，包含用于音频分析的预训练神经网络模型。

Key Concepts

神经网络模型
流水线构建
说话人嵌入
Hugging Face 集成

Use Cases

构建自定义日志服务
在特定领域微调模型
实时会议转录系统

专家乘积

Sat, 18 Jul 2026 11:30:38 +0000

Definition

专家乘积（PoE）是一种通过组合更简单的分布来构建复杂概率分布的方法。与平均概率的“混合专家”（MoE）不同，PoE通过乘法结合各个专家模型的输出。这意味着如果任何一个专家模型认为某个配置是不可能的（概率为零），整个联合分布的概率也将为零，从而能够更严格地满足约束条件。

Summary

一种概率建模框架，其联合分布由多个独立专家模型的输出相乘形成。

Key Concepts

基于能量的模型
联合分布
乘法组合
约束满足

Use Cases

图像纹理合成与建模
深度玻尔兹曼机
生成模型中的复杂依赖关系建模

多模态表示学习

Sat, 18 Jul 2026 11:27:47 +0000

Definition

多模态表示学习涉及训练模型以处理和整合来自不同类型数据源（如文本、图像、音频和视频）的信息，将其映射到共享的潜在空间中。

Summary

一种同时从多个数据模态中学习统一特征表示的技术。

Key Concepts

跨模态对齐
共享潜在空间
特征融合
模态特定编码器

Use Cases

图像描述生成
视频检索
视觉问答

模式崩溃

Sat, 18 Jul 2026 11:26:24 +0000

Definition

在 GAN 中，当生成器学会利用判别器的弱点，仅产生少量看似合理的样本，而忽略数据分布的其他模式时，就会发生模式崩溃。这种现象会导致生成多样性严重不足。

Summary

模式崩溃是生成对抗网络（GAN）中的一种失效模式，指生成器产生的输出种类有限。

Key Concepts

GAN 稳定性
分布多样性
生成器失效
判别器反馈

Use Cases

诊断 GAN 训练的不稳定性
提高图像生成的多样性
分析潜在空间覆盖率

流形假设

Sat, 18 Jul 2026 11:25:23 +0000

Definition

这一假说解释了尽管存在维度灾难，深度学习为何能高效工作。它表明，尽管图像等数据存在于数百万维的空间中，但它们受到内在结构的约束…

Summary

假设高维现实世界数据位于高维空间内的低维非线性流形上。

Key Concepts

降维
内蕴维度
非线性几何
泛化能力

Use Cases

理解神经网络效率
开发降维算法
改进数据可视化技术

高速公路网络

Sat, 18 Jul 2026 11:20:58 +0000

Definition

高速公路网络旨在通过引入自适应门控来控制信息流，从而解决深度学习中的梯度消失问题。类似于LSTM单元，这些门允许网络决定保留多少原始输入信息以及多少经过变换的信息。这使得训练非常深的网络成为可能，而不会遇到传统的梯度消失或爆炸问题。

Summary

一种深度神经网络架构，引入门控机制以促进梯度在极深网络中的流动。

Key Concepts

门控机制
梯度消失
深度学习
信息流

Use Cases

深度神经网络
语音识别
计算机视觉

隐藏层

Sat, 18 Jul 2026 11:20:51 +0000

Definition

隐藏层由神经元组成，这些神经元接收来自前一层层的输入，应用权重和偏置，并通过激活函数将转换后的数据传递到下一层。这些层使神经网络能够…

Summary

神经网络中输入层和输出层之间的中间层，负责处理特征。

Key Concepts

神经网络
特征提取
激活函数
深度学习

Use Cases

图像识别系统
自然语言处理模型
预测性分析

Code Example

import torch.nn as nn
model = nn.Sequential(
 nn.Linear(784, 128),
 nn.ReLU(),
 nn.Linear(128, 10)
)

人工智能硬件

Sat, 18 Jul 2026 11:20:37 +0000

Definition

人工智能硬件指的是针对机器学习工作负载所需的巨大并行处理能力进行优化的专用计算设备。这包括用于通用并行计算的图形处理器（GPU），以及专门针对张量运算定制的张量处理单元（TPU）等加速器，旨在提高训练和推理效率。

Summary

专为加速机器学习算法和神经网络训练的计算需求而设计的专用物理组件。

Key Concepts

并行处理
GPU/TPU
推理加速
内存带宽

Use Cases

高效训练大型语言模型
自动驾驶汽车中的实时物体检测
高频交易算法

梯度累积

Sat, 18 Jul 2026 11:19:45 +0000

Definition

这种优化策略允许深度学习模型使用超出 GPU 显存容量的有效批量大小进行训练。通过从多个小批量中累积梯度并执行权重更新，可以实现这一目标。

Summary

梯度累积是一种通过在前向/反向传播过程中累加多个步骤的梯度，从而模拟更大批量大小的技术，之后才更新权重。

Key Concepts

批量大小模拟
内存优化
随机梯度下降
权重更新

Use Cases

微调大模型
在有限显存下训练
稳定损失收敛

门控循环单元

Sat, 18 Jul 2026 11:18:04 +0000

Definition

门控循环单元（GRU）是一种专门的循环神经网络（RNN）单元，旨在捕捉序列数据中的长期依赖关系。它简化了长短期记忆（LSTM）架构。

Summary

一种使用门控机制控制信息流动的循环神经网络架构，作为LSTM的简化替代方案。

Key Concepts

循环神经网络
更新门
重置门
序列建模

Use Cases

自然语言处理
时间序列预测
语音识别

Code Example

import torch.nn as nn

# Define a simple GRU layer
gru = nn.GRU(input_size=10, hidden_size=20, num_layers=1)

# Example input: (seq_len, batch, input_size)
input_data = torch.randn(5, 3, 10)
hidden_state = None

output, hidden = gru(input_data, hidden_state)

特征学习

Sat, 18 Jul 2026 11:17:13 +0000

Definition

特征学习通常与深度学习相关联，使模型能够直接从原始输入数据中学习分层表示，而不是依赖人工特征工程。通过多层网络结构，模型可以自动提取从低级到高级的抽象特征，从而减少对领域专家手动设计特征的依赖。

Summary

一种算法从原始数据中自动发现检测或分类所需特征的方法。

Key Concepts

自动表示
分层层级
深度学习
避免人工工程

Use Cases

图像识别与目标检测
语音转文字转录
自然语言理解任务

基于能量的模型

Sat, 18 Jul 2026 11:16:12 +0000

Definition

基于能量的模型（EBM）使用源自能量函数的未归一化密度函数来定义输入数据的概率分布。能量函数将数据点映射到实数，合理的配置具有较低的能量，而不合理的配置具有较高的能量。模型通常通过马尔可夫链蒙特卡洛方法进行采样和训练。

Summary

一种概率模型，为合理的配置分配低能量值，为不合理的配置分配高能量值。

Key Concepts

未归一化概率
配分函数
能量函数
马尔可夫链蒙特卡洛

Use Cases

图像生成与修复
密度估计
异常检测

领域自适应

Sat, 18 Jul 2026 11:15:33 +0000

Definition

领域自适应解决了训练数据和测试数据来自不同分布的挑战。通过对齐有标签的源领域和无标签或稀疏标签的目标领域之间的特征表示，该方法能够提升模型的泛化能力。

Summary

一种通过利用源领域的知识来提高模型在目标领域性能机器学习方法。

Key Concepts

源领域
目标领域
分布偏移
特征对齐

Use Cases

跨不同扫描仪类型翻译医学图像
适应不同口音的语音识别
跨平台推荐系统

双重下降

Sat, 18 Jul 2026 11:15:33 +0000

Definition

双重下降挑战了传统的偏差-方差权衡理论，表明高度过参数化的模型即使插值了训练数据，也能实现较低的测试误差。起初，随着模型复杂度的增加，误差会上升，但在越过插值阈值后，误差会再次下降。

Summary

随着模型复杂度超过插值阈值，测试误差先下降、后上升、再次下降的现象。

Key Concepts

插值阈值
过参数化
偏差-方差权衡
测试误差

Use Cases

分析神经网络缩放定律
理解深度学习中的泛化能力
大规模AI系统中的模型选择

差分随机梯度下降

Sat, 18 Jul 2026 11:14:55 +0000

Definition

DP-SGD 是随机梯度下降的一种变体，旨在保护训练数据的隐私。它通过裁剪每个样本梯度的贡献来限制敏感度，然后添加高斯噪声来实现隐私保护。

Summary

一种优化算法，通过对标准随机梯度下降（SGD）进行梯度裁剪和添加噪声的修改，确保训练后的模型满足差分隐私约束。

Key Concepts

梯度裁剪
高斯噪声注入
样本子采样
隐私会计

Use Cases

在私有用户数据上训练深度神经网络
医疗保健预测建模
使用受监管数据进行金融欺诈检测

BERT

Sat, 18 Jul 2026 11:09:15 +0000

Definition

BERT（Bidirectional Encoder Representations from Transformers）是由Google开发的一种基于Transformer的机器学习技术，用于自然语言处理（NLP）的预训练。它利用掩码语言建模和下一句预测来学习双向表示。

Summary

基于Transformer的双向编码器表示是一种预训练的自然语言处理模型。

Key Concepts

Transformer架构
掩码语言建模
预训练
微调

Use Cases

问答系统
情感分析
文本分类

批归一化

Sat, 18 Jul 2026 11:08:27 +0000

Definition

该方法在训练期间调整并缩放激活值，使其在每个小批量中具有零均值和单位方差。它减少了内部协变量偏移，允许使用更高的学习率和更快的收敛速度。

Summary

批归一化是一种技术，通过对小批量数据上的层输入进行归一化，以稳定并加速神经网络的训练。

Key Concepts

内部协变量偏移
小批量统计量
梯度稳定
正则化效应

Use Cases

深度神经网络
卷积神经网络
训练优化

Code Example

import torch.nn as nn
layer = nn.Sequential(
 nn.Linear(10, 20),
 nn.BatchNorm1d(20),
 nn.ReLU()
)

AlphaChip

Sat, 18 Jul 2026 11:04:49 +0000

Definition

AlphaChip是一个专门的AI系统，旨在自动化并增强微芯片上组件的放置和布线过程。通过采用深度强化学习，它显著缩短了设计周期。

Summary

由Google DeepMind开发的AI驱动芯片设计工具，利用强化学习优化集成电路布局。

Key Concepts

强化学习
芯片放置
硬件优化
DeepMind

Use Cases

微芯片布局优化
缩短设计周期时间
提高处理器的能效

对抗攻击

Sat, 18 Jul 2026 11:04:26 +0000

Definition

对抗攻击通过向图像或文本等输入引入细微噪声，利用神经网络的漏洞，导致模型输出出现显著错误。这些攻击突显了模型在面临恶意输入时的脆弱性。

Summary

对抗攻击是一种技术，通过在输入数据中添加微小且通常不可察觉的扰动，欺骗机器学习模型做出错误的预测。

Key Concepts

扰动
模型鲁棒性
白盒与黑盒
逃避攻击

Use Cases

测试模型安全性
生成用于训练的对抗样本
分析计算机视觉系统中的漏洞

计算机视觉

Sat, 18 Jul 2026 11:02:27 +0000

Definition

计算机视觉（CV）是人工智能的一个分支，旨在训练计算机从数字图像、视频和其他视觉输入中提取有意义的信息。它涉及开发算法来模拟人类的视觉能力。

Summary

计算机视觉是人工智能的一个领域，专注于使计算机能够解释和理解来自世界的视觉信息。

Key Concepts

图像分类
目标检测
卷积神经网络
特征提取

Use Cases

自动驾驶感知系统
基于X光片的医学诊断
人脸识别安全系统

残差连接

Sat, 18 Jul 2026 11:01:52 +0000

Definition

残差连接（也称为跳跃连接）通过将输入直接添加到后续层的输出来允许梯度在网络中流动。这种架构解决了深层网络中的梯度消失问题。

Summary

一种将输入直接加到层输出上的机制，以促进深层网络中的梯度流动。

Key Concepts

跳跃连接
梯度消失问题
深度残差学习
梯度流

Use Cases

训练深层卷积神经网络
Transformer 架构
图像分类模型

Code Example

import torch.nn as nn
class ResidualBlock(nn.Module):
 def __init__(self, channels):
 super().__init__()
 self.conv = nn.Conv2d(channels, channels, 3, padding=1)
 def forward(self, x):
 return x + self.conv(x)

ReLU

Sat, 18 Jul 2026 11:01:41 +0000

Definition

由于其计算效率高且能缓解梯度消失问题，ReLU 被广泛应用于深度学习的神经网络中。其数学定义为 f(x) = max(0, x)，它引入了非线性特性（原文截断，意为 introduces non-linearity）。

Summary

修正线性单元（ReLU）是一种激活函数，如果输入为正，则直接输出该输入；否则输出零。

Key Concepts

非线性
激活函数
梯度消失
分段线性

Use Cases

卷积神经网络中的隐藏层
深度前馈网络
图像识别模型

Code Example

import torch.nn as nn
activation = nn.ReLU()

循环神经网络

Sat, 18 Jul 2026 11:01:41 +0000

Definition

RNN 旨在识别数据序列中的模式，例如文本、基因组、手写体或语音。与前馈网络不同，它们具有内部记忆，能够捕获关于先前输入的信息（原文截断，意为 captures information about previous inputs）。

Summary

RNN 是一类人工神经网络，其中节点之间的连接沿时间序列形成有向图。

Key Concepts

序列数据
隐藏状态
时间动态
随时间反向传播

Use Cases

语言建模
时间序列预测
语音识别

长短期记忆网络

Sat, 18 Jul 2026 11:00:35 +0000

Definition

LSTM网络通过使用细胞状态和三个门控机制（输入门、遗忘门和输出门），解决了标准RNN中常见的梯度消失问题。这些门控机制调节信息的流动，使网络能够记住或忘记特定信息。

Summary

一种专门设计的循环神经网络架构，旨在学习序列数据中的长期依赖关系。

Key Concepts

门控机制
细胞状态
序列数据
梯度消失

Use Cases

时间序列预测
语音识别
机器翻译

Code Example

import torch.nn as nn
lstm = nn.LSTM(input_size=10, hidden_size=20, num_layers=1)

Dropout

Sat, 18 Jul 2026 10:59:51 +0000

Definition

在神经网络中，Dropout 通过在每次训练步骤中临时移除随机子集的神经元来防止过拟合。这迫使网络学习在联合使用时有用的鲁棒特征。

Summary

Dropout 是一种正则化技术，通过在训练过程中随机忽略神经元来防止过拟合。

Key Concepts

正则化
防止过拟合
神经网络
随机抑制

Use Cases

训练深层前馈神经网络
提高大型语言模型的泛化能力
减少对特定神经元路径的计算依赖

Code Example

import torch.nn as nn
model = nn.Sequential(
 nn.Linear(100, 50),
 nn.Dropout(0.5),
 nn.ReLU(),
 nn.Linear(50, 10)
)

激活函数

Sat, 18 Jul 2026 10:59:15 +0000

Definition

激活函数为神经网络引入非线性，使其能够学习数据中的复杂模式和关系。如果没有这些函数，多层网络的行为将退化为线性变换，无法处理复杂任务。

Summary

根据输入信号确定神经网络节点输出的数学方程。

Key Concepts

非线性
梯度下降
神经元激活
反向传播

Use Cases

使深度神经网络能够进行图像分类
促进自然语言处理任务
提高生成模型训练时的收敛速度

Code Example

import torch.nn as nn
relu = nn.ReLU()
output = relu(input_tensor)

预训练

Sat, 18 Jul 2026 10:57:22 +0000

Definition

预训练模型是一种基础人工智能模型，已在海量且多样化的数据集（如维基百科或ImageNet）上进行了广泛训练。这种初始训练使模型能够学习到广泛通用的特征表示。

Summary

预训练模型是指已在大型数据集上训练过的神经网络，旨在学习通用特征，以便后续针对特定任务进行调整。

Key Concepts

迁移学习
基础模型
特征提取
权重初始化

Use Cases

使用大语言模型构建聊天机器人
使用ResNet进行图像分类
使用BERT进行情感分析

基于扩散的

Sat, 18 Jul 2026 10:56:23 +0000

Definition

基于扩散的模型是一类生成式AI，它们通过从随机分布中迭代去除噪声来创建新的数据样本。该过程始于一个前向阶段，即缓慢地向数据中添加高斯噪声，直到数据变为纯噪声；随后通过训练神经网络学习逆向过程，从而从噪声中恢复出有意义的结构。

Summary

一种生成建模方法，通过学习去噪步骤逆转逐渐添加噪声的过程来创建数据。

Key Concepts

前向过程
逆向过程
去噪
潜在空间

Use Cases

高分辨率图像合成
文生图生成
医学影像的数据增强

迁移学习

Sat, 18 Jul 2026 10:55:40 +0000

Definition

迁移学习利用预训练模型来提高在新且相关任务上的性能并减少训练时间。开发人员无需从头开始训练，而是对现有权重进行微调，从而利用先前学到的知识。

Summary

一种机器学习技术，将在一个任务中开发的模型作为第二个任务的模型的起点进行复用。

Key Concepts

预训练模型
微调
领域自适应
特征提取

Use Cases

数据有限的图像分类
针对小众主题的情感分析
医疗诊断辅助

Code Example

from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=2)

预训练

Sat, 18 Jul 2026 10:53:51 +0000

Definition

预训练是深度学习中的一种基础技术，模型从海量数据中学习广泛的特征和模式，通常无需标签。这一过程使模型能够发展出通用的知识表示，从而在后续针对特定下游任务进行微调时，仅需少量数据即可达到高性能。

Summary

在大型未标记数据集上训练机器学习模型的初始阶段，以便在针对特定任务进行微调之前学习通用表示。

Key Concepts

迁移学习
特征提取
大规模数据
微调

Use Cases

训练BERT或GPT等语言模型
使用ImageNet权重初始化卷积神经网络（CNN）
构建多模态AI的基础模型

Code Example

from transformers import BertModel
model = BertModel.from_pretrained('bert-base-uncased')
# Model is now pre-trained and ready for fine-tuning

神经网络

Sat, 18 Jul 2026 10:53:26 +0000

Definition

神经网络是一系列算法，通过模拟人类大脑运作的方式，试图识别一组数据中的潜在关系。它由层组成

Summary

一种受生物大脑启发的计算系统，由组织成层的互连节点或神经元组成。

Key Concepts

感知器
反向传播
激活函数
权重和偏置

Use Cases

图像识别
语音识别
预测性分析

Code Example

import torch.nn as nn
class SimpleNN(nn.Module):
 def __init__(self):
 super(SimpleNN, self).__init__()
 self.layer = nn.Linear(10, 1)
 def forward(self, x):
 return self.layer(x)

多头注意力

Sat, 18 Jul 2026 10:53:14 +0000

Definition

多头注意力通过并行运行多次标准注意力机制（使用不同的学习到的线性投影）来扩展标准注意力机制。这使得模型能够联合关注来自不同位置的不同表示子空间的信息。

Summary

Transformer模型中的一种机制，允许模型同时关注来自不同表示子空间的信息。

Key Concepts

自注意力
线性投影
拼接

Use Cases

自然语言处理 (NLP)
机器翻译
使用Vision Transformer进行图像分类

Code Example

import torch.nn as nn

class MultiHeadAttention(nn.Module):
 def __init__(self, d_model, num_heads):
 super().__init__()
 self.num_heads = num_heads
 self.d_k = d_model // num_heads
 self.W_q = nn.Linear(d_model, d_model)
 self.W_k = nn.Linear(d_model, d_model)
 self.W_v = nn.Linear(d_model, d_model)
 self.W_o = nn.Linear(d_model, d_model)

 def forward(self, x):
 # Simplified forward pass logic
 pass

大语言模型

Sat, 18 Jul 2026 10:52:16 +0000

Definition

大语言模型（LLM）是基于Transformer架构的高级人工智能系统，在包含大量文本和代码的数据集上进行训练。它们学习语言中的统计模式，

Summary

一种在海量文本语料库上训练的深度学习模型，用于理解和生成类人语言。

Key Concepts

Transformer架构
词元预测
预训练
缩放定律

Use Cases

聊天机器人和虚拟助手
内容生成
代码补全

扩散

Sat, 18 Jul 2026 10:49:53 +0000

Definition

扩散模型是一类生成式AI，它们学习逆转向数据添加噪声的随机过程。通过训练神经网络逐步预测并去除噪声，它们能够生成高质量的新数据样本。

Summary

一种生成建模技术，通过逆转逐渐加噪的过程来重建干净样本，从而生成数据。

Key Concepts

随机过程
噪声调度
反向过程
潜在空间

Use Cases

高保真图像生成
音频合成
药物发现分子设计

Adam

Sat, 18 Jul 2026 10:49:06 +0000

Definition

Adam（自适应矩估计）是一种流行的基于一阶梯度的优化算法，用于训练深度神经网络。它结合了两种其他随机梯度下降扩展的优势。

Summary

一种为每个参数计算自适应学习率的优化算法。

Key Concepts

梯度下降
学习率
动量
方差估计

Use Cases

深度学习训练
计算机视觉模型
自然语言处理

Code Example

import torch.optim as optim
optimizer = optim.Adam(model.parameters(), lr=0.001)

微调

Sat, 18 Jul 2026 07:44:46 +0000

Definition

微调涉及在一个已在大而通用数据集上训练好的模型基础上，继续在专业化数据集上进行训练。这使得模型在保留通用知识的同时，能够习得特定任务的技能。

Summary

使用较小的数据集将预训练模型适配到特定下游任务的过程。

Key Concepts

迁移学习
预训练模型
任务特定适配
学习率

Use Cases

适配大语言模型以构建客户服务聊天机器人
专门化图像分类器用于医疗诊断
定制语音识别以针对特定口音

Code Example

from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification.from_pretrained('bert-base-uncased')
# Freeze base layers
for param in model.bert.parameters():
 param.requires_grad = False
# Train only classification head

卷积神经网络

Sat, 18 Jul 2026 07:44:21 +0000

Definition

卷积神经网络（CNN）旨在从视觉输入中自动且自适应地学习特征的空间层次结构。它们利用卷积层应用滤波器来检测局部模式，并通过池化等操作逐步提取高层语义特征。

Summary

一类专门用于处理网格状数据（如图像）的深度神经网络，通过应用卷积滤波器来实现。

Key Concepts

卷积层
池化
特征图
空间层次

Use Cases

图像分类
视频流中的目标检测
医学影像诊断

Code Example

import tensorflow as tf
model = tf.keras.Sequential([
 tf.keras.layers.Conv2D(32, (3, 3), activation='relu', input_shape=(28, 28, 1)),
 tf.keras.layers.MaxPooling2D((2, 2)),
 tf.keras.layers.Flatten(),
 tf.keras.layers.Dense(10)
])

注意力机制

Sat, 18 Jul 2026 07:44:10 +0000

Definition

注意力机制使模型能够动态地权衡输入序列中不同元素的重要性。与平等对待所有输入数据不同，它会根据上下文分配不同的权重，从而让模型聚焦于最相关的信息部分，显著提升了对长序列数据的处理能力。

Summary

一种使神经网络在生成输出时能够专注于输入数据特定部分的技术。

Key Concepts

自注意力
上下文向量
加权求和
Transformer 架构

Use Cases

机器翻译模型
图像描述生成
文本摘要

Deep Learning on 中文AI术语词典

双曲正切 (Tanh)

Definition

Summary

Key Concepts

Use Cases

Code Example

Related Terms

相似度学习

Definition

Summary

Key Concepts

Use Cases

Related Terms

句子变换器

Definition

Summary

Key Concepts

Use Cases

Related Terms

重参数化技巧

Definition

Summary

Key Concepts

Use Cases

Code Example

Related Terms

Pyannote Audio

Definition

Summary

Key Concepts

Use Cases

Related Terms

专家乘积

Definition

Summary

Key Concepts

Use Cases

Related Terms

多模态表示学习

Definition

Summary

Key Concepts

Use Cases

Related Terms

模式崩溃

Definition

Summary

Key Concepts

Use Cases

Related Terms

流形假设

Definition

Summary

Key Concepts

Use Cases

Related Terms

高速公路网络

Definition

Summary

Key Concepts

Use Cases

Related Terms

隐藏层

Definition

Summary

Key Concepts

Use Cases

Code Example

Related Terms

人工智能硬件

Definition

Summary

Key Concepts

Use Cases

Related Terms

梯度累积

Definition

Summary

Key Concepts