Арифметика

G_Z 23.05.2010 03:00 / 23.05.2010 03:01

$n1[-443704711]
$n2[4294967296]
^eval(^n1.double[] % ^n2.double[])

= -443704711

Python, Google и даже Excel считают иначе — 3851262585.
MySQL, XSLT и калькулятор Windows придерживаются ответа «-443704711».

Не совсем понимаю причину, ошибка из-за размера чисел?
С double, выходит, толком не посчитать?

Арифметика, G_Z [M] 23.05.2010 03:00 / 23.05.2010 03:01
- Едем дальше…, G_Z [M] 23.05.2010 05:17
  - сдвиговые операции у p3 работают только для int, а диапазон значений int описан в документации (-), Misha v.3 [M] 23.05.2010 05:50
    - Фигово…, G_Z [M] 23.05.2010 06:00
      - диапазон int-а в документации явно указан (-), Misha v.3 [M] 23.05.2010 06:16
        Не указано, что сдвиговые операции работают до int, G_Z [M] 23.05.2010 06:20 / 23.05.2010 06:22
        Ответ, Misha v.3 [M] 23.05.2010 06:26
        Ответ, G_Z [M] 23.05.2010 06:35
        L -- это разве не long?, Misha v.3 [M] 23.05.2010 06:39
        Long, G_Z [M] 23.05.2010 06:52 / 23.05.2010 06:55
- весь сыр-бор из-за отрицательного делимого, Misha v.3 [M] 23.05.2010 03:34 / 23.05.2010 03:42
  - Дык, G_Z [M] 23.05.2010 03:44
    - и? у гугла так-же :) (-), Misha v.3 [M] 23.05.2010 03:46
      - Хм..., G_Z [M] 23.05.2010 03:53
        да, это их аналог с INT. но к _остатку_от_деления_ это никакого отношения не имеет, imho. (-), Misha v.3 [M] 23.05.2010 03:56
        Мне важнее получить аналог, G_Z [M] 23.05.2010 04:00

Новости	FAQ	Авторы	Документация	В действии	Библиотека
Инструменты	Полезные ссылки	Хостинги	Скачать	Примеры	Форум