crossplatform.ru

Здравствуйте, гость ( Вход | Регистрация )

 
Ответить в данную темуНачать новую тему
> QByteArray::toFloat(), точность преобразования.
silver47
  опции профиля:
сообщение 6.7.2011, 17:39
Сообщение #1


Активный участник
***

Группа: Участник
Сообщений: 356
Регистрация: 1.4.2010
Пользователь №: 1584

Спасибо сказали: 40 раз(а)




Репутация:   6  


Доброго времени суток. Столкнулся с таким вот вопросом: необходимо преобразовать число из ByteArray в число с плавающей точкой. Все устраивает, кроме точности, а именно, если после запятой больше 2х знаков, то они теряются.

Пример:
QByteArray ba("1432.123");
qDebug() << ba.toFloat(); // printed 1432.12


Полистал документацию на QByteArray и не нашел как увеличить точность :(.
Перейти в начало страницы
 
Быстрая цитата+Цитировать сообщение
Litkevich Yuriy
  опции профиля:
сообщение 6.7.2011, 18:36
Сообщение #2


разработчик РЭА
*******

Группа: Сомодератор
Сообщений: 9656
Регистрация: 9.1.2008
Из: Тюмень
Пользователь №: 64

Спасибо сказали: 807 раз(а)




Репутация:   94  


Цитата(silver47 @ 6.7.2011, 20:39) *
qDebug() << ba.toFloat(); // printed 1432.12
qDebug имеет привчку вносить свою лепту, поэтому перед его использованием преобразуй float в QString, а затем проверяй
Перейти в начало страницы
 
Быстрая цитата+Цитировать сообщение
silver47
  опции профиля:
сообщение 6.7.2011, 18:48
Сообщение #3


Активный участник
***

Группа: Участник
Сообщений: 356
Регистрация: 1.4.2010
Пользователь №: 1584

Спасибо сказали: 40 раз(а)




Репутация:   6  


Упс. Точно так, спасибо.
Перейти в начало страницы
 
Быстрая цитата+Цитировать сообщение

Быстрый ответОтветить в данную темуНачать новую тему
Теги
Нет тегов для показа


1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0




RSS Текстовая версия Сейчас: 11.8.2020, 13:01