TRELLIS
TRELLISは、単一の画像またはテキストプロンプトを入力として受け取り、豊富な3D形状とテクスチャを持つ、複数のフォーマットの3Dアセットを生成する、深層学習ベースの3D生成モデルです。自然言語処理モデルであるGPTが文脈を理解して多様な形式のテキストを出力するように、このツールは入力ソースを統合された構造化された潜在表現(Structured Latents、SLAT)に精密に変換した後、多様な下流の3D表現形式に同時にデコードします。従来の3D生成モデルは、NeRF、3D Gaussian Splatting、ポリゴンメッシュのいずれかを選択して使用していました。
TRELLISは、単一の画像またはテキストプロンプトを入力として受け取り、豊富な3D幾何構造とテクスチャを持つ、複数のフォーマットの3Dアセットを生成する、深層学習ベースの3D生成モデルです。自然言語処理モデルであるGPTが文脈を理解して多様な形式のテキストを出力するように、このツールは入力ソースを統合された構造化された潜在表現(Structured Latents、SLAT)に精密に変換した後、多様な下流の3D表現形式に同時にデコードします。従来の3D生成モデルは、NeRF、3D Gaussian Splatting、ポリゴンメッシュのいずれか特定のフォーマットに限定されるか、フォーマット変換時に著しい品質低下を経験するという限界がありました。TRELLISは、このような「フォーマットの断片化」の問題を根本的に克服するために、複数のフォーマットを網羅するRectified Flow Transformerアーキテクチャを導入しました。
Rectified Flow Transformerバックボーンは、12億から最大20億のパラメータに基づいて設計されており、わずか10秒以内に歪みのない幾何学的形状と詳細なPBRテクスチャを抽出します。従来のメッシングモデルで発生していた幾何学的歪みやぼかし現象を大幅に軽減し、複雑なトポロジー構造を持つオブジェクトも高い精度で復元します。生成されたアセットは、ゲーム開発エンジンや仮想現実レンダラーなどの商用パイプラインで変換損失なしに即座にインポートして活用できる、優れた汎用性を提供します。
医療およびバイオテクノロジーの可視化分野の研究者は、単一のグラフィック例または断面画像資料に基づいて、高精細な3D構造データを迅速にプロトタイプ化できます。AlphaFoldを使用して予測されたタンパク質の2Dスクリーンショット画像や解剖学的断面構造を入力として、リアルタイムレンダリングが可能なWebベースの3Dビューア用の資産や、手術シミュレーション用のポリゴンメッシュを生成することで、研究ワークフローを大幅に短縮できます。
💻 必要なスペック
NVIDIA GPU 16GB 以上必須(A100、A6000 などエンタープライズ環境で公式検証済み)
モデルの重みインストールには約5GB、全体のライブラリと一時コンパイルを含む15GB以上が必要です。
⚡ インストール
4-1. クイックスタート
リポジトリとサブモジュールのクローンgit clone --recurse-submodules https://github.com/microsoft/TRELLIS.git cd TRELLIS
Condaの仮想環境作成と必須コンパイル依存関係の一括インストール. ./setup.sh --new-env --basic --xformers --flash-attn --diffoctreerast --spconv --mipgaussian --kaolin --nvdiffrast
4-2. 詳細なインストール
Python APIを活用した基本的な推論スクリプトの例 (minimal_example.py)import os os.environ['SPCONV_ALGO'] = 'native' # 単一の実行でベンチマーク時間を短縮
from PIL import Image from trellis.pipelines import TrellisImageTo3DPipeline from trellis.utils import render_utils, postprocessing_utils
1. 事前学習済み画像-3DパイプラインのロードとGPU割り当てpipeline = TrellisImageTo3DPipeline.from_pretrained("microsoft/TRELLIS-image-large") pipeline.cuda()
2. 分析用単一画像の読み込みimage = Image.open("input_sample.png")
3. 3D アセット生成プロセスの駆動outputs = pipeline.run(image, seed=1)
4. 単純化フィルターとテクスチャマップのサイズを適用してGLBメッシュファイルとして最終的に抽出glb = postprocessing_utils.to_glb( outputs['gaussian'][0], outputs['mesh'][0], simplify=0.95, # 95% ポリゴン簡略化 texture_size=1024 # テクスチャ解像度 1024x1024 設定 ) glb.export("output_mesh.glb")
FAQ
TRELLISとは何ですか?
TRELLISは、単一の画像またはテキストプロンプトを入力として受け取り、豊富な3D幾何構造とテクスチャを持つ、複数のフォーマットの3Dアセットを生成する、深層学習ベースの3D生成モデルです。自然言語処理モデルであるGPTが文脈を理解して多様な形式のテキストを出力するように、このツールは入力ソースを統合された構造化された潜在表現(Structured Latents、SLAT)に精密に変換した後、多様な下流の3D表現形式に同時にデコードします。従来の3D生成モデルは、NeRF、3D Gaussian Splatting、ポリゴンメッシュのいずれか特定のフォーマットに限定されるか、フォーマット変換時に著しい品質低下を経験するという限界がありました。TRELLISは、このような「フォーマットの断片化」の問題を根本的に克服するために、複数のフォーマットを網羅するRectified Flow Transformerアーキテクチャを導入しました。 Rectified Flow Transformerバックボーンは、12億から最大20億のパラメータに基づいて設計されており、わずか10秒以内に歪みのない幾何学的形状と詳細なPBRテクスチャを抽出します。従来のメッシングモデルで発生していた幾何学的歪みやぼかし現象を大幅に軽減し、複雑なトポロジー構造を持つオブジェクトも高い精度で復元します。生成されたアセットは、ゲーム開発エンジンや仮想現実レンダラーなどの商用パイプラインで変換損失なしに即座にインポートして活用できる、優れた汎用性を提供します。 医療およびバイオテクノロジーの可視化分野の研究者は、単一のグラフィック例または断面画像資料に基づいて、高精細な3D構造データを迅速にプロトタイプ化できます。AlphaFoldを使用して予測されたタンパク質の2Dスクリーンショット画像や解剖学的断面構造を入力として、リアルタイムレンダリングが可能なWebベースの3Dビューア用の資産や、手術シミュレーション用のポリゴンメッシュを生成することで、研究ワークフローを大幅に短縮できます。
TRELLISはいつ使いますか?
TRELLISは、単一の画像またはテキストプロンプトを入力として受け取り、豊富な3D形状とテクスチャを持つ、複数のフォーマットの3Dアセットを生成する、深層学習ベースの3D生成モデルです。自然言語処理モデルであるGPTが文脈を理解して多様な形式のテキストを出力するように、このツールは入力ソースを統合された構造化された潜在表現(Structured Latents、SLAT)に精密に変換した後、多様な下流の3D表現形式に同時にデコードします。従来の3D生成モデルは、NeRF、3D Gaussian Splatting、ポリゴンメッシュのいずれかを選択して使用していました。
📝 アップデートノート
まだアップデートノートはありません。
🧪 関連「生命のコード」
関連する「生命のコード」記事はまだありません。