Add configs for router energy (embedding/physical) and WGAN baseline runs
Co-Authored-By: Claude Sonnet 5 <noreply@anthropic.com>
This commit is contained in:
@@ -0,0 +1,23 @@
|
|||||||
|
[train]
|
||||||
|
mode = "flow"
|
||||||
|
epochs = 30
|
||||||
|
lr = 3e-4
|
||||||
|
warmup_epochs = 3
|
||||||
|
val_fraction = 0.1
|
||||||
|
num_workers = 4
|
||||||
|
|
||||||
|
[model]
|
||||||
|
conditioning = "embedding"
|
||||||
|
dropout = 0.0
|
||||||
|
expert_hidden_dim = 128
|
||||||
|
expert_n_blocks = 4
|
||||||
|
|
||||||
|
[model.router]
|
||||||
|
enabled = true
|
||||||
|
type = "energy"
|
||||||
|
n_experts = 10
|
||||||
|
expert_hidden_dim = 128
|
||||||
|
expert_n_blocks = 4
|
||||||
|
temperature = 0.05
|
||||||
|
lambda_balance = 0.035
|
||||||
|
learn_centers = true
|
||||||
@@ -0,0 +1,23 @@
|
|||||||
|
[train]
|
||||||
|
mode = "flow"
|
||||||
|
epochs = 30
|
||||||
|
lr = 3e-4
|
||||||
|
warmup_epochs = 3
|
||||||
|
val_fraction = 0.1
|
||||||
|
num_workers = 4
|
||||||
|
|
||||||
|
[model]
|
||||||
|
conditioning = "physical"
|
||||||
|
dropout = 0.0
|
||||||
|
expert_hidden_dim = 128
|
||||||
|
expert_n_blocks = 4
|
||||||
|
|
||||||
|
[model.router]
|
||||||
|
enabled = true
|
||||||
|
type = "energy"
|
||||||
|
n_experts = 10
|
||||||
|
expert_hidden_dim = 128
|
||||||
|
expert_n_blocks = 4
|
||||||
|
temperature = 0.05
|
||||||
|
lambda_balance = 0.035
|
||||||
|
learn_centers = true
|
||||||
@@ -0,0 +1,13 @@
|
|||||||
|
[train]
|
||||||
|
mode = "wgan"
|
||||||
|
epochs = 30
|
||||||
|
lr = 3e-4
|
||||||
|
warmup_epochs = 3
|
||||||
|
val_fraction = 0.1
|
||||||
|
num_workers = 4
|
||||||
|
|
||||||
|
[model]
|
||||||
|
hidden_dim = 128
|
||||||
|
n_blocks = 4
|
||||||
|
dropout = 0.0
|
||||||
|
conditioning = "physical"
|
||||||
Reference in New Issue
Block a user