floating-point

1
ответов

6

Почему MATLAB удалил мои десятичные дроби?

floating-point matlab number-formatting numbers

2
ответов

6

Как преобразовать шестнадцатеричную строку в float в Java?

floating-point hex java string

2
ответов

6

C++ обеспечение размера float 4 байта

c++ consistency cross-platform floating-point size

2
ответов

6

Как выполнить unittest для выходов с плавающей запятой? — питон

floating-point precision python testing unit-testing

2
ответов

6

Округление формата Python по умолчанию при форматировании числа float

floating-point format numbers python

2
ответов

6

Все ли числа с одной точностью представимы в формате двойной точности?

floating-point ieee-754

3
ответов

6

В Lua, что такое #INF и #IND?

c floating-point floating-point-conversion lua

3
ответов

6

GLSL как обеспечить максимально возможное значение float без переполнения

floating-point glsl opengl overflow

3
ответов

6

(PHP) как избежать научной нотации и показать фактические большие числа?

floating-point php scientific-notation

3
ответов

6

В чем разница между LONG float и double в C++?

c++ double floating-point