floating-point

3
ответов

7

питон датавремя.strptime: игнорировать долю секунды

datetime floating-point format python-2.7

4
ответов

7

Представление значений float в Java

floating-point java

4
ответов

7

sqrt, идеальные квадраты и ошибки с плавающей запятой

c floating-point haskell

4
ответов

7

C# Generics: как использовать x.MaxValue / x.MinValue (int, float, double) в общем классе

c# double floating-point generics int

6
ответов

7

Как написать портативную арифметику с плавающей запятой в c++?

c++ floating-point

7
ответов

7

Проверьте, является ли число рациональным в Python

algorithm floating-point math python

10
ответов

7

Могу ли я гарантировать, что компилятор C++ не изменит порядок моих вычислений?

c++ floating-point ieee-754 optimization

1
ответов

8

Как будут реализованы fabs(double) на x86? Это дорогостоящая операция?

absolute-value floating-point x86

1
ответов

8

Мой fma() сломан?

c floating-point gcc5

2
ответов

8

Python: вычислить факториал нецелого числа

factorial floating-point python