┏━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ ┃ Layer (type) ┃ Output Shape ┃ Param # ┃ Connected to ┃ ┡━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ │ audio_indices (InputLayer) │ (None, None) │ 0 │ - │ ├───────────────────────────────┼───────────────────────────┼─────────────────┼────────────────────────────┤ │ audio_mask (InputLayer) │ (None, None) │ 0 │ - │ ├───────────────────────────────┼───────────────────────────┼─────────────────┼────────────────────────────┤ │ audio_mel (InputLayer) │ (None, None, None, 128) │ 0 │ - │ ├───────────────────────────────┼───────────────────────────┼─────────────────┼────────────────────────────┤ │ audio_mel_mask (InputLayer) │ (None, None, None) │ 0 │ - │ ├───────────────────────────────┼───────────────────────────┼─────────────────┼────────────────────────────┤ │ padding_mask (InputLayer) │ (None, None) │ 0 │ - │ ├───────────────────────────────┼───────────────────────────┼─────────────────┼────────────────────────────┤ │ pixel_position_ids │ (None, None, None, 2) │ 0 │ - │ │ (InputLayer) │ │ │ │ ├───────────────────────────────┼───────────────────────────┼─────────────────┼────────────────────────────┤ │ pixel_values (InputLayer) │ (None, None, None, None) │ 0 │ - │ ├───────────────────────────────┼───────────────────────────┼─────────────────┼────────────────────────────┤ │ position_ids (InputLayer) │ (None, None) │ 0 │ - │ ├───────────────────────────────┼───────────────────────────┼─────────────────┼────────────────────────────┤ │ token_ids (InputLayer) │ (None, None) │ 0 │ - │ ├───────────────────────────────┼───────────────────────────┼─────────────────┼────────────────────────────┤ │ vision_indices (InputLayer) │ (None, None) │ 0 │ - │ ├───────────────────────────────┼───────────────────────────┼─────────────────┼────────────────────────────┤ │ vision_mask (InputLayer) │ (None, None) │ 0 │ - │ ├───────────────────────────────┼───────────────────────────┼─────────────────┼────────────────────────────┤ │ gemma4_backbone_1 │ (None, None, 1536) │ 5,104,298,467 │ audio_indices[0][0], │ │ (Gemma4Backbone) │ │ │ audio_mask[0][0], │ │ │ │ │ audio_mel[0][0], │ │ │ │ │ audio_mel_mask[0][0], │ │ │ │ │ padding_mask[0][0], │ │ │ │ │ pixel_position_ids[0][0], │ │ │ │ │ pixel_values[0][0], │ │ │ │ │ position_ids[0][0], │ │ │ │ │ token_ids[0][0], │ │ │ │ │ vision_indices[0][0], │ │ │ │ │ vision_mask[0][0] │ ├───────────────────────────────┼───────────────────────────┼─────────────────┼────────────────────────────┤ │ token_embedding │ (None, None, 262144) │ 402,653,184 │ gemma4_backbone_1[0][0] │ │ (ReversibleEmbedding) │ │ │ │ ├───────────────────────────────┼───────────────────────────┼─────────────────┼────────────────────────────┤ │ true_divide (TrueDivide) │ (None, None, 262144) │ 0 │ token_embedding[1][0] │ ├───────────────────────────────┼───────────────────────────┼─────────────────┼────────────────────────────┤ │ tanh (Tanh) │ (None, None, 262144) │ 0 │ true_divide[0][0] │ ├───────────────────────────────┼───────────────────────────┼─────────────────┼────────────────────────────┤ │ multiply_40 (Multiply) │ (None, None, 262144) │ 0 │ tanh[0][0] │ └───────────────────────────────┴───────────────────────────┴─────────────────┴────────────────────────────┘