与えられた横軸xにある線上の点の縦座標yを計算しています。線は、その2つの端点座標(x0、y0)(x1、y1)によって定義されます。終点の座標は浮動小数点数であり、GPUで使用するには、計算を浮動小数点精度で実行する必要があります。
数学、したがって素朴な実装は簡単です。
t =(x-x0)/(x1-x0)とすると、y =(1-t)* y0 + t * y1 = y0 + t *(y1-y0)となります。
問題は、x1-x0が小さい場合です。その結果、キャンセルエラーが発生します。x-x0のいずれかと組み合わせると、除算でtに重大なエラーが発生すると予想されます。
問題は、より正確にyを決定する別の方法があるかどうかです。
つまり、最初に(x --x0)*(y1 --y0)を計算し、その後(x1 --x0)で除算する必要がありますか?
y1-y0の差は常に大きくなります。