Skip to main content

训练文本转换模型 (GeoAI 工具)

汇总

训练文本转换模型以转换、翻译或汇总文本。

了解有关“文本转换”工作原理的详细信息

用法

  • 此工具还用于微调现有已训练模型。

  • 要使用 GPU 运行此工具,将处理器类型环境设置为 GPU。 如果您具有多个 GPU,则改为指定 GPU ID 环境。

  • 该工具的输入是包含训练数据的表或要素类,其中文本字段包含输入文本,标注字段包含转换的文本。

  • 此工具将使用基于转换器的骨干来训练文本转换模型,并且还支持使用 Mistral LLM 的提示进行上下文学习。 要安装 Mistral 主干,请参阅 ArcGIS Mistral 主干

  • 有关运行此工具的要求以及您可能遇到的问题的信息,请参阅深度学习常见问题

参数

标注 说明 数据类型

输入表

要素类或表,其中包含带有模型输入文本的文本字段和包含目标转换文本的标注字段。

Feature Layer; Table View

文本字段

输入要素类或表中的文本字段,其中包含将按模型转换的输入文本。

Field

标注字段

输入要素类或表中的文本字段,其中包含用于训练模型的目标转换文本。

Field

输出模型

将存储训练模型的输出文件夹位置。

Folder

预训练模型文件

(可选)

将用于微调新模型的预训练模型。 输入可以为 Esri 模型定义文件 (.emd) 或深度学习包文件 (.dlpk)。

可以对执行类似任务的预训练模型进行微调以适应训练数据。 预训练模型必须已使用将用于训练新模型的相同模型类型和骨干模型进行了训练。

File

最大轮数

(可选)

应用于将训练模型的最大轮数。 最大轮数值为 1 意味着数据集将通过神经网络传递一次。 默认值为 5。

Long

模型骨干

(可选)

指定要用作训练新模型的架构的预配置神经网络。

  • t5-small该新模型将使用 T5 神经网络进行训练。 T5 是一个统一的框架,可以将每个语言问题转换为文本到文本格式。t5-small 是 T5 的小型变体。

  • t5-base该新模型将使用 T5 神经网络进行训练。 T5 是一个统一的框架,可以将每个语言问题转换为文本到文本格式。t5-base 是 T5 的中型变体。

  • t5-large该新模型将使用 T5 神经网络进行训练。 T5 是一个统一的框架,可以将每个语言问题转换为文本到文本格式。t5-large 是 T5 的大型变体。

  • mistral该模型将使用 Mistral 大语言模型 (LLM) 进行训练。 Mistral 是一种仅限解码器的变换器模型,采用滑动窗口注意力、分组查询注意力和字节回退 BPE 分词器技术。 要安装 Mistral 主干,请参阅 ArcGIS Mistral 主干

String

批量大小

(可选)

一次需要处理的训练样本数。 默认值为 2。

增加批量大小可以提高工具性能;但是随着批量大小增加,所用内存也将随之增加。 如果出现内存不足错误,则降低批量大小。

Double

模型参数

(可选)

将用于初始化模型的附加参数。 受支持的模型参数为 Sequence Length,此参数用于设置训练数据的最大序列长度,将被考虑用于训练模型。

值表列:

  • NameThe name of the function argument.

  • ValueThe value of the function argument.

Value Table

学习率

(可选)

步长用于指示在训练过程中调整模型权重的大小。 如果未指定值,将自动派生出最佳学习率。

Double

验证百分比

(可选)

将用于验证模型的训练样本的百分比。 对于基于转换器的模型骨干,默认值为 10;对于 Mistral 骨干,默认值为 50。

Double

当模型停止改进时停止

(可选)

指定模型训练是在模型不再改进时停止,还是继续直至达到最大轮数参数值时才停止。

  • 选中当模型不再改进时,模型训练将停止,不考虑最大轮数参数值。 这是默认设置。

  • 未选中模型训练将一直持续,直至达到最大轮数参数值为止。

Boolean

创建可训练模型骨干

(可选)

指定是否冻结预训练模型中的骨干图层,以使权重和偏差保持原始设计。

  • 选中不会冻结骨干图层,可以更改模型骨干参数值的权重和偏差以适应训练样本。 这需要更多的处理时间,但通常会产生更好的结果。 这是默认设置。

  • 未选中将冻结骨干图层,在训练期间,不会更改模型骨干参数值的预定义权重和偏差。

Boolean

移除 HTML 标签

(可选)

指定是否从输入文本中移除 HTML 标签。

  • 选中将从输入文本中移除 HTML 标签。 这是默认设置。

  • 未选中不会从输入文本中移除 HTML 标签。

Boolean

移除 URL

(可选)

指定是否从输入文本中移除 URL。

  • 选中将从输入文本中移除 URL。 这是默认设置。

  • 未选中不会从输入文本中移除 URL。

Boolean

提示 (prompt)

(可选)

特定输入或指令用于指导大型语言模型 (LLM) 生成预期输出。

默认设置是将文本字段中的输入文本转换为标注字段中的转换文本。

String

环境

处理器类型, GPU ID

许可信息

  • 基本: 否
  • 标准: 否
  • 高级: 是