Hyperoctahedral group characters and a type-BC analog of graph coloring

<jats:p> We state combinatorial formulas for hyperoctahedral group ( <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:msub> <mml:mi>𝔅</mml:mi> <mml:mi>n</mml:mi> </mml:msub> </mml:math> ) character evaluations of the form <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>χ</mml:mi> <mml:mo>(</mml:mo> <mml:msubsup> <mml:mover accent="true"> <mml:mi>C</mml:mi> <mml:mo>˜</mml:mo> </mml:mover> <mml:mi>w</mml:mi> <mml:mi mathvariant="sans-serif">BC</mml:mi> </mml:msubsup> <mml:mrow> <mml:mo>(</mml:mo> <mml:mn>1</mml:mn> <mml:mo>)</mml:mo> </mml:mrow> <mml:mo>)</mml:mo> </mml:mrow> </mml:math> where <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:msubsup> <mml:mover accent="true"> <mml:mi>C</mml:mi> <mml:mo>˜</mml:mo> </mml:mover> <mml:mi>w</mml:mi> <mml:mi mathvariant="sans-serif">BC</mml:mi> </mml:msubsup> <mml:mrow> <mml:mo>(</mml:mo> <mml:mn>1</mml:mn> <mml:mo>)</mml:mo> </mml:mrow> <mml:mo>∈</mml:mo> <mml:mi>ℤ</mml:mi> <mml:mrow> <mml:mo>[</mml:mo> <mml:msub> <mml:mi>𝔅</mml:mi> <mml:mi>n</mml:mi> </mml:msub> <mml:mo>]</mml:mo> </mml:mrow> </mml:mrow> </mml:math> is a type- <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mi mathvariant="sans-serif">BC</mml:mi> </mml:math> Kazhdan–Lusztig basis element, with <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>w</mml:mi> <mml:mo>∈</mml:mo> <mml:msub> <mml:mi>𝔅</mml:mi> <mml:mi>n</mml:mi> </mml:msub> </mml:mrow> </mml:math> corresponding to simultaneously smooth type- <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mi mathvariant="sans-serif">B</mml:mi> </mml:math> and <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mi mathvariant="sans-serif">C</mml:mi> </mml:math> Schubert varieties. We also extend the definition of symmetric group codominance to elements of <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:msub> <mml:mi>𝔅</mml:mi> <mml:mi>n</mml:mi> </mml:msub> </mml:math> and show that for each element <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>w</mml:mi> <mml:mo>∈</mml:mo> <mml:msub> <mml:mi>𝔅</mml:mi> <mml:mi>n</mml:mi> </mml:msub> </mml:mrow> </mml:math> as above, there exists a <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mi mathvariant="sans-serif">BC</mml:mi> </mml:math> -codominant element <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>v</mml:mi> <mml:mo>∈</mml:mo> <mml:msub> <mml:mi>𝔅</mml:mi> <mml:mi>n</mml:mi> </mml:msub> </mml:mrow> </mml:math> satisfying <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>χ</mml:mi> <mml:mrow> <mml:mo>(</mml:mo> <mml:msubsup> <mml:mover accent="true"> <mml:mi>C</mml:mi> <mml:mo>˜</mml:mo> </mml:mover> <mml:mi>w</mml:mi> <mml:mi mathvariant="sans-serif">BC</mml:mi> </mml:msubsup> <mml:mrow> <mml:mo>(</mml:mo> <mml:mn>1</mml:mn> <mml:mo>)</mml:mo> </mml:mrow> <mml:mo>)</mml:mo> </mml:mrow> <mml:mo>=</mml:mo> <mml:mi>χ</mml:mi> <mml:mrow> <mml:mo>(</mml:mo> <mml:msubsup> <mml:mover accent="true"> <mml:mi>C</mml:mi> <mml:mo>˜</mml:mo> </mml:mover> <mml:mi>v</mml:mi> <mml:mi mathvariant="sans-serif">BC</mml:mi> </mml:msubsup> <mml:mrow> <mml:mo>(</mml:mo> <mml:mn>1</mml:mn> <mml:mo>)</mml:mo> </mml:mrow> <mml:mo>)</mml:mo> </mml:mrow> </mml:mrow> </mml:math> for all <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:msub> <mml:mi>𝔅</mml:mi> <mml:mi>n</mml:mi> </mml:msub> </mml:math> -characters <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mi>χ</mml:mi> </mml:math> . Combinatorial structures and maps appearing in these formulas are type- <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mi mathvariant="sans-serif">BC</mml:mi> </mml:math> extensions of planar networks, unit interval orders, indifference graphs, poset tableaux, and colorings. Using the ring of type- <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mi mathvariant="sans-serif">BC</mml:mi> </mml:math> symmetric functions, we introduce natural generating functions <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>Y</mml:mi> <mml:mo>(</mml:mo> <mml:msubsup> <mml:mover accent="true"> <mml:mi>C</mml:mi> <mml:mo>˜</mml:mo> </mml:mover> <mml:mi>w</mml:mi> <mml:mi mathvariant="sans-serif">BC</mml:mi> </mml:msubsup> <mml:mrow> <mml:mo>(</mml:mo> <mml:mn>1</mml:mn> <mml:mo>)</mml:mo> </mml:mrow> <mml:mo>)</mml:mo> </mml:mrow> </mml:math> for the above evaluations. These provide a new type- <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mi mathvariant="sans-serif">BC</mml:mi> </mml:math> analog of Stanley’s chromatic symmetric functions [Adv. Math. <jats:bold>111</jats:bold> (1995) pp. 166–194]. </jats:p>