Skip to main content

エンティティー認識モデルのトレーニング (GeoAI ツール)

サマリー

未加工のテキストから事前定義されたエンティティを抽出するエンティティ認識モデルをトレーニングします。

エンティティー認識の仕組みの詳細

使用法

  • このツールは、既存のトレーニング済みモデルの微調整にも使用できます。

  • GPU を使用してこのツールを実行するには、プロセッサー タイプ環境を GPU に設定します。 複数の GPU が存在する場合は、代わりに GPU ID 環境を指定します。

  • 入力には、テキスト フィールドと名前付きエンティティー ラベルを含むフィーチャクラスまたはテーブル、あるいは .json または .csv ファイルのトレーニング データがあるフォルダーを指定できます。

  • このツールは、NER モデルのトレーニングに Transformer ベースのバックボーンを使用し、Mistral LLM を使用したプロンプト付きコンテキスト内学習をサポートしています。 Mistral バックボーンをインストールするには、「ArcGIS Mistral バックボーン」をご参照ください。

  • このツールの実行要件および発生する可能性のある問題の詳細については、「ディープ ラーニングに関するよくあるご質問 (FAQ)」をご参照ください。

パラメーター

ラベル 説明 データ タイプ

入力フォルダーまたはテーブル

入力は次のいずれかになります。

  • モデルの入力テキストとラベル付きエンティティのテキスト フィールドを含むフィーチャクラスまたはテーブル。ここで、選択したテキスト フィールドはモデルの入力テキストとして使用され、残りのフィールドは名前付きエンティティのラベルとして扱われます。

  • NER タスクの標準データセット形式のトレーニング データを含むフォルダー。 トレーニング データは .json または .csv ファイルの形式でなければなりません。 ファイル形式によって入力のデータセット タイプが決まります。

    • 入力がフォルダーの場合、次のデータセット タイプがサポートされます。

      • ner_json—トレーニング データ フォルダーには、テキストとラベル付きエンティティーを spaCy JSON トレーニング形式 でフォーマットした .json ファイルが含まれている必要があります。

      • IOB—Ramshaw および Marcus が論文 Text Chunking using Transformation-Based Learning で提唱した IOB (I - inside タグ、O - outside タグ、B - beginning タグ) 形式。

        トレーニング データ フォルダーには、次の 2 つの .csv ファイルが含まれている必要があります:

        • tokens.csv—入力チャンクとしてテキストが含まれています。

        • tags.csv—テキスト チャンクの IOB タグが含まれています。

      • BILUO—IOB 形式のエクステンションであり、Last の L、Unit の U のタグが追加で含まれます。

        トレーニング データ フォルダーには、次の 2 つの .csv ファイルが含まれている必要があります:

        • tokens.csv—入力チャンクとしてテキストが含まれています。

        • tags.csv—テキスト チャンクの BILUO タグが含まれています。

Folder; Feature Layer; Table View; Feature Class

出力モデル

トレーニング済みモデルが格納される出力フォルダーの場所。

Folder

事前トレーニング済みモデル ファイル

(オプション)

新しいモデルの微調整に使用される事前トレーニング済みモデル。 入力には、Esri モデル定義ファイル (.emd) か、ディープ ラーニング パッケージ ファイル (.dlpk) を指定できます。

類似したエンティティを持つ事前トレーニング済みモデルは、新しいモデルに合わせて微調整することができます。 事前トレーニング済みモデルは、新しいモデルのトレーニングに使用される同じモデル タイプおよびバックボーン モデルでトレーニングされている必要があります。

File

住所エンティティ

(オプション)

ロケーションとして処理される住所エンティティ。 推論では、このようなエンティティは、指定のロケーターでジオコーディングされ、エンティティ抽出処理の結果としてフィーチャクラスが生成されます。 ロケーターが提供されていないか、トレーニング済みモデルが住所エンティティを抽出しない場合、抽出したエンティティを含むテーブルが代わりに生成されます。

String

最大エポック

(オプション)

モデルをトレーニングする場合の対象となるエポックの最大数。 最大エポック値を 1 に設定すると、データセットがニューラル ネットワークによって 1 回渡されます。 デフォルト値は 5 です。

Long

モデル バックボーン

(オプション)

新しいモデルをトレーニングするためのアーキテクチャーとして使用される構成済みのニューラル ネットワークを指定します。

  • bert-base-cased—モデルは BERT ニューラル ネットワークを使用してトレーニングされます。 BERT は Masked Language Modeling 目的関数と Next Sentence Prediction を使用して事前トレーニングされます。

  • roberta-base—モデルは RoBERTa ニューラル ネットワークを使用してトレーニングされます。 RoBERTa は、BERT の主要なハイパーパラメーターを変更し、小さいバッチと高い学習率により、目的の事前トレーニングと Next Sentence のトレーニングを回避します。

  • albert-base-v1—モデルは ALBERT ニューラル ネットワークを使用してトレーニングされます。 ALBERT は、文章の一貫性 (intersentence coherence) のモデリングに焦点を当てた自己監視損失を使用しており、BERT より優れたスケーラビリティが得られます。

  • xlnet-base-cased—モデルは XLNet ニューラル ネットワークを使用してトレーニングされます。 XLNet は、一般化された自己回帰事前トレーニング方法です。 これにより、因数分解順序のすべての順列で予想される確率を最大化することで双方向のコンテキストを学習でき、BERT の欠点が克服されます。

  • xlm-roberta-base—モデルは XLM-RoBERTa ニューラル ネットワークを使用してトレーニングされます。 XLM-RoBERTa は、100 の異なる言語でトレーニングされた多言語モデルです。 一部の XLM 多言語モデルとは異なり、使用されている言語を理解して入力 ID から正しい言語を識別するための言語テンソルを必要としません。

  • distilroberta-base—モデルは DistilRoBERTa ニューラル ネットワークを使用してトレーニングされます。 DistilRoBERTa は、OpenAI の WebText データセットの複製である OpenWebTextCorpus にのみ基づく roberta-base ニューラル ネットワークの管理下で事前トレーニングされた英語モデルです。

  • distilbert-base-cased—モデルは DistilBERT ニューラル ネットワークを使用してトレーニングされます。 DistilBERT は、より小さい汎用言語表現モデルです。

  • mistral—このモデルは、Mistral 大規模言語モデル (LLM) を使用してトレーニングされます。 Mistral は、Sliding Window Attention、Grouped Query Attention、Byte-fallback BPE トークナイザーを使用するデコーダーオンリーなトランスフォーマーです。 Mistral バックボーンをインストールするには、「ArcGIS Mistral バックボーン」をご参照ください。

String

バッチ サイズ

(オプション)

1 回に処理されるトレーニング サンプルの数。 デフォルト値は 2 です。

バッチ サイズを増やすと、ツールのパフォーマンスが向上します。ただし、バッチ サイズの増加に伴って、使用されるメモリー量も多くなります。 メモリー不足エラーが発生した場合は、より小さなバッチ サイズを使用してください。

Double

モデル引数

(オプション)

モデルの初期化に使用される追加の引数。 サポートされるモデル引数は Sequence Length です。これは、モデルのトレーニングにおいて考慮されるトレーニング データの最大シーケンス長を設定するために使用されます。

値テーブル列:

  • Name—The name of the function argument.

  • Value—The value of the function argument.

Value Table

学習率

(オプション)

トレーニング処理の際に調整されるモデル ウェイトの量を示すステップ サイズ。 値を指定しない場合、最適な学習率が自動的に生成されます。

Double

検証率

(オプション)

モデルの検証に使用するトレーニング サンプルの割合。 デフォルト値は、Transformer ベースのモデル バックボーンの場合は 10、Mistral バックボーンの場合は 50 です。

Double

モデルが改善を見込めなくなった時点で停止

(オプション)

モデルの改善がなくなった時点でモデルのトレーニングを停止するか、最大エポック パラメーター値に達するまでトレーニングを続行するかを指定します。

  • オン—最大エポック パラメーター値にかかわらず、モデルの改善がなくなった時点でモデルのトレーニングを停止します。 これがデフォルトです。

  • オフ—最大エポック パラメーター値に到達するまで、モデルのトレーニングが続行されます。

Boolean

モデル バックボーンをトレーニング可能にする

(オプション)

事前トレーニング済みモデルのバックボーン層が固定されるかどうかを指定します。これにより、加重とバイアスが本来の設計どおりになります。

  • オン—バックボーン層は固定されず、トレーニング サンプルに合わせて モデル バックボーン パラメーター値のウェイトとバイアスを変更できます。 この処理には時間がかかりますが、通常は優れた結果が得られます。 これがデフォルトです。

  • オフ—バックボーン層は固定され、モデル バックボーン パラメーター値の事前定義済みウェイトとバイアスはトレーニング中に変更されません。

Boolean

テキスト フィールド

モデルによって入力として使用されるテキストを含む、入力フィーチャクラスまたはテーブル内のテキスト フィールド。 このパラメーターは、入力フォルダーまたはテーブル パラメーター値がフィーチャクラスまたはテーブルである場合は必須です。

Field

プロンプト (prompt)

(オプション)

予測した出力を生成するために、大規模言語モデル (LLM) に与えられる特定の入力または手順。

デフォルト値は、指定テキスト内の指定クラスに属する名前付きエンティティの抽出です。 他のクラスに属するエンティティーにはタグを付けないでください。

String

環境

プロセッサー タイプ, GPU ID

ライセンス情報

  • Basic: いいえ
  • Standard: いいえ
  • Advanced: はい