Телепорт

[mira]

Сообщение от supernewbie

mira, как у тебя после возведения в квадрат получается отрицательное число?)

function L2VectorDist(const v1,v2: TL2Vector):single;
var
fx,fy,fz:double;
summ : double;
begin
fx:=(v1.x-v2.x)*(v1.x-v2.x);
fy:=(v1.y-v2.y)*(v1.y-v2.y);
fz:=(v1.z-v2.z)*(v1.z-v2.z);
summ:=abs(fx+fy+fz);
result:=sqrt(summ);
end;

у меня дистанция считаетса вот так. без abs иногда получаетса непонятная уета с summ<0

Добавлено через 4 минуты
если ктото мне объяснит в чем тут чудо я буду тока рад)
пока поставил абс как костыль вроде норм...

[supernewbie]

mira, точно уверен что < 0 получается?
пробывал проверять что приходит в функцию вообще?

[mira]

Сообщение от supernewbie

mira, точно уверен что < 0 получается?
пробывал проверять что приходит в функцию вообще?

проверял. Норм все в функцию приходит.
Я функцию выносил в тестовый апликейшн и при больших цифрах возникала ошибка ариф.процессора типа отрицательное число под корнем. Проверил степ-степ отладкой так и оказалось. Хз в чем дело, мб какоето переполнение.

[supernewbie]

Сообщение от mira

Норм все в функцию приходит.

а как именно ты это узнал?

[mira]

Сообщение от supernewbie

а как именно ты это узнал?

да просто.
Как тока у меня вышла наепка я сразуже запомнил координаты персов м/у которыми считалось.
Потом засунул их в тестовую прогу с копией функции - баг повторилса.
да. Растояние был довольно большое

[mira]

Сообщение от mira

  fx:=(v1.x-v2.x)*(v1.x-v2.x);

вот если делфи видит это как

  fx:=integer((v1.x-v2.x)*(v1.x-v2.x));

тогда в принципе все обьяснимо

[Aries]

Сообщение от mira

вот если делфи видит это как

  fx:=integer((v1.x-v2.x)*(v1.x-v2.x));

тогда в принципе все обьяснимо

очень сомневаюсь...
и кстати замени double на int64 (мб и на LongInt, хотя туда вряд ли влезет квадрат слишком отдаленных координат), один хрен координаты не имеют десятичных точек.