PyTorch 高级索引：使用嵌套索引列表对二维张量进行高效批量赋值

本文详解如何绕过 PyTorch 对不规则嵌套索引列表（如每行不同长度的列索引）的直接高级索引限制，通过展平+线性索引或 scatter_ 实现零循环、向量化地完成按行选择性赋值。

本文详解如何绕过 PyTorch 对不规则嵌套索引列表（如每行不同长度的列索引）的直接高级索引限制，通过展平+线性索引或 `scatter_` 实现零循环、向量化地完成按行选择性赋值。

在 PyTorch 中，对二维张量按行进行变长列索引赋值（例如：第 i 行将列 [2,3] 设为 -1，第 j 行仅将列 [1] 设为 -1）是一个常见但易踩坑的需求。虽然朴素的 for 循环语义清晰，但它无法利用 GPU 并行性，且在大规模数据下性能显著下降。而直接尝试使用 x[torch.arange(n), list_of_indices] = -1 会触发 IndexError: shape mismatch —— 根本原因在于 PyTorch 的高级索引要求所有索引张量具有可广播的形状，而包含空列表或不等长子列表的 Python 列表无法被直接转换为规则张量。

✅ 正确解法：线性索引 + flatten()

核心思想是将二维索引 (row_i, col_j) 映射为一维线性索引：idx = row_i * width + col_j，然后对展平后的张量执行单维度索引：

import torch

n, m = 9, 4
x = torch.arange(0, n * m).reshape(n, m)
list_of_indices = [
    [],      # row 0: no change
    [2, 3],  # row 1: set cols 2,3 → linear idxs: 1*4+2=6, 1*4+3=7
    [1],     # row 2: set col 1 → 2*4+1=9
    [],
    [],
    [],
    [0, 1, 2, 3],  # row 6: all cols → 6*4+0..3 = 24..27
    [],
    [0, 3],  # row 8: cols 0,3 → 8*4+0=32, 8*4+3=35
]

# ✅ Step 1: 构造全局线性索引张量（自动跳过空子列表）
indices = torch.tensor([
    i * m + j 
    for i, row_indices in enumerate(list_of_indices) 
    for j in row_indices
])

# ✅ Step 2: 在展平视图上批量赋值（in-place，无内存拷贝）
x.flatten()[indices] = -1

print(x)

输出与原始循环完全一致，但全程在 GPU 上可加速（若 x 在 CUDA 设备上），且时间复杂度为 O(总索引数)，而非 O(行数 × 平均列数)。

⚠️ 注意事项与边界说明

• flatten() 是视图（view）操作：它返回原张量的展平视图，不复制数据，因此 x.flatten()[indices] = -1 是真正的原地修改，无需 x = ... 赋值。
• 空子列表自动忽略：推导式 for j in row_indices 天然跳过空列表，无需额外过滤。
• 索引必须有效：确保所有 j 满足 0 ≤ j < m，否则会触发 IndexError；建议在生产环境添加校验：

  for i, row in enumerate(list_of_indices):
      if any(j < 0 or j >= m for j in row):
          raise ValueError(f"Invalid column index in row {i}: {row}")

• 不可用于 torch.no_grad() 或 torch.inference_mode() 外的梯度计算：该操作是原地赋值，会破坏计算图。如需反向传播，请改用 torch.scatter_（见下文）或构造掩码。

? 替代方案：torch.scatter_（支持梯度）

若需保留梯度流（例如在自定义 loss 中动态屏蔽某些位置），推荐 scatter_：

# indices 如前构造
flat_x = x.flatten()
flat_x.scatter_(0, indices, -1)  # in-place scatter
# 若需返回新张量（非原地），用 scatter：flat_x.scatter(0, indices, -1).view_as(x)
x = flat_x.view_as(x)  # 恢复原始形状（view_as 确保形状严格匹配）

scatter_ 是可微分操作（对 src 参数求导），且明确设计用于此类“稀疏写入”场景，语义更严谨。

✅ 总结

记住关键原则：PyTorch 高级索引拒绝不规则结构，但线性索引拥抱一切稀疏模式。将二维逻辑转为一维，是解锁高效张量操作的通用钥匙。