floating-accuracy

2
ответов

6

Задачи с плавающей запятой в асимптотических функциях, приближающихся к нулю-Python

floating-accuracy hyperbolic-function math python rounding-error

3
ответов

6

Точность C# при проверке float в списке с помощью метода Contains

c# contains floating-accuracy list

4
ответов

6

Обнаружение потери точности при преобразовании из double в float

c++ floating-accuracy floating-point rounding rounding-error

7
ответов

6

Сравнение одинаковых значений Float в C [дубликат]

c c++ floating-accuracy floating-point

6
ответов

7

Как я могу «обрезать» c# double до значения, которое будет храниться как в базе данных sqlite?

c# double-precision floating-accuracy sqlite

8
ответов

7

Как определить точность Pi (π)

c floating-accuracy lookup-tables optimization trigonometry

4
ответов

8

Можно ли заставить экспоненты и мантиссы числа с плавающей точкой, чтобы соответствовать другой поплавок (питон)?

floating-accuracy floating-point numpy python

4
ответов

11

Будет ли формат с плавающей точкой зависеть от big-endian и little endian?

c c++ floating-accuracy

2
ответов

14

Умножение на 0.0000001 такое же, как деление на 10000000?

floating-accuracy java

3
ответов

23

Как Java String.формат с переменной точностью?

floating-accuracy java precision rounding string