MathMLな数式:

$\alpha =\frac{\tan \frac{{\omega }_c}{2}-1}{\tan \frac{{\omega }_c}{2}+1}$ ⇔ ${\omega }_c=2\arctan \frac{1+\alpha }{1-\alpha }$

ωc→α(0≤ωc≤π,-1≤α≤1):

α→ωc(0≤ωc≤π,-1≤α≤1):

fc[Hz]→→α(-1≤α≤1,0≤fc<ナイキスト周波数):

(入力)ナイキスト周波数[Hz]:
(入力)遮断周波数fc[Hz]:
(出力)α:

α->fc[Hz](-1≤α≤1,0≤fc<ナイキスト周波数):

(入力)ナイキスト周波数[Hz]:
(入力)α:
(出力)遮断周波数fc[Hz]:

2byteで表わせる数値を-1から+1の1.15固定小数点表現された値として見て10進小数に変換

• 0x7FFF → 0.999969482421875
• 0x4000 → 0.5
• 0x0001 → 0.000030517578125 = 3.0517578125e-5
• 0x8001 → -0.000030517578125 = -3.0517578125e-5
• 0xC000 → -0.5
• 0xFFFF → -0.999969482421875

(入力)2byteの数値:
(出力)固定小数点:

4byteで表わせる数値を-1から+1の1.31固定小数点表現された値として見て10進小数に変換

• 0x7FFFFFFF → 0.9999999995343387
• 0x40000000 → 0.5
• 0x00000001 → 4.656612873077393e-10
• 0x80000001 → -4.656612873077393e-10
• 0xC0000000 → -0.5
• 0xFFFFFFFF → -0.9999999995343387

(入力)4byteの数値:
(出力)固定小数点: