Вопросы с тегом математики с плавающей точкой - PullRequest

Вопросы с тегом математики с плавающей точкой

2 голосов
1 ответ

Я пытаюсь округлить Float в эликсире до 2 десятичных знаков. Если у меня есть число 12.555, я бы...

RobStallion / 08 апреля 2019
0 голосов
1 ответ

Я конвертирую числа из поля ввода с помощью JS.Я использую .toFixed (2) для сокращения чисел, но...

Best Dev Tutorials / 06 октября 2018
0 голосов
2 ответов

pow(x,y) вычисляется как e^(y*log(x)) Обычно математические библиотеки вычисляют log(x) с четверной...

Joseph Arnold / 01 октября 2018
0 голосов
1 ответ

Я видел несколько примеров кода, в которых они добавили 0f к другому значению с плавающей точкой,...

Ducktor / 31 мая 2018
0 голосов
1 ответ

Предположим, у нас есть набор данных чисел, с помощью которого мы хотим выполнить некоторые...

Zoltan K. / 24 мая 2018
0 голосов
2 ответов

Как мне реализовать операции с плавающей запятой, если у меня есть только области памяти шириной 16...

Veridian / 11 января 2012
8 голосов
1 ответ

Как вычесть числа IEEE 754? Например: 0,546875 - 32,875 ... -> 0,546875 - это 0 01111110...

Tiago Costa / 07 января 2012
1 голос
5 ответов

На другом несвязанном интернет-форуме был задан вопрос о том, как проверить, является ли квадратный...

Vilx- / 26 сентября 2011
0 голосов
3 ответов

Я работаю над приложением, в котором пользователь может хранить температуру. он может выбирать...

christian Muller / 18 сентября 2011
4 голосов
2 ответов

Я пишу трассировщик пути, и мне приходится собирать среднее по большому количеству выборок на...

FeepingCreature / 09 сентября 2011
9 голосов
2 ответов

Что такое каноническая цифра со знаком (CSD) и как преобразовать двоичное число в CSD, а CSD...

Ross Rogers / 01 августа 2011
4 голосов
1 ответ

У меня возникают проблемы при расчете расстояния между точкой и линией.Существует проблема...

OliveOne / 10 марта 2011
1 голос
2 ответов

Может кто-нибудь объяснить мне подробно, как работает эта функция log2: inline float fast_log2...

Skeen / 16 декабря 2010
2 голосов
4 ответов

У меня есть метод, который работает с некоторыми географическими координатами в .NET, и у меня есть...

Jake Petroules / 23 июня 2010
33 голосов
9 ответов

Мне недавно задали этот вопрос: Учитывая 12-часовые аналоговые часы, рассчитайте в градусах меньший...

polygenelubricants / 01 мая 2010
2 голосов
3 ответов

Мне нужно определить сумму, оставшуюся от временного цикла.Для этого в CI нужно использовать fmod

mat_geek / 19 марта 2010
0 голосов
1 ответ

Существует ли быстрый метод определения модуля числа с плавающей запятой? С целыми числами есть...

caffiend / 16 марта 2010
0 голосов
1 ответ

Я только начал работать с библиотекой произвольной точности MPFR и довольно скоро столкнулся с...

Denis / 26 февраля 2010
12 голосов
2 ответов
Для получения более полной информации посмотрите в списке вопросов или в популярных тегах.
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...