Округление приближенного числа

Предмет Программирование

👍 Проверено Автор24

замена его числом с меньшим количеством значащих цифр.

Научные статьи на тему «Округление приближенного числа»

Аналого-цифровой преобразователь

Округление последовательности значений исходной величины, полученных в определенные моменты времени,...
Процесс квантования по дискретной функции U (Тд) состоит в отображении бесконечного числа ее значений...
уровней N, после чего производится округление каждой величины Un(Тд) до самого близкого уровня $U*n$...
Число каналов (от 1 до 64 аналоговых каналов). Напряжение питания. Поддерживаемый интерфейс....
высокой частотой, после чего сигнал поступает на аналого-цифровой преобразователь последовательного приближения

Статья от экспертов

Решение задачи линейного программирования с произвольной точностью на распределенных вычислительных системах с мрi

Предметом статьи являются способы получения как точного решения, так и приближенного решения с гарантированной точностью, а также способы повышения точности вычислений на распределенных вычислительных системах с МР1. Для получения таких решений применяются дробно-рациональные вычисления без округления, вычисления над числами с плавающей точкой произвольной наперед заданной точностью и интервальные вычисления с такими числами. Представлены способы адаптации предложенных типов данных к МР1. Результаты вычислительного эксперимента на разработанных параллельных алгоритмах решения систем линейных алгебраических уравнений и задач линейного программирования показывают эффективность их применения.

Creative Commons

Научный журнал

Численные методы в инженерных задачах

Приближенным значением именуется такое число, которое имеет незначительное отличие от точного значения...
Отличие приближенного значения числа от его точной величины может характеризоваться погрешностью....
обусловлена исполнением вычислений над приближенными числами....
Погрешности округления, которые связаны с округлением значений начальных данных, промежуточных и конечных...
погрешности числа.

Статья от экспертов

Метод умножения с масштабированием результата для высокоточных модулярно- позиционных интервально-логарифмических вычислений

Введение. Для решения задач моделирования, критичных к ошибкам округления (включая задачи вычислительной математики, математической физики, оптимального управления, биохимии, квантовой механики, математического программирования и криптографии), требуется точность от 100 до 1 000 десятичных цифр и более. Главным недостатком программных библиотек высокоточных вычислений является неприемлемое для практических задач снижение быстродействия, в особенности при выполнении операции умножения. Одним из способов повышения скорости вычислений над длинными числами является использование системы счисления в остаточных классах. В данной статье рассматривается новый, более быстрый по сравнению с аналогами метод выполнения операции умножения длинных чисел с масштабированием результата за счет применения оригинальной гибридной модулярно-позиционной интервально-логарифмической формы представления чисел с плавающей точкой. Материалы и методы. Для повышения скорости вычислений разработан новый способ о...

Creative Commons

Научный журнал

Еще термины по предмету «Программирование»

Символьный (литерный) тип

значениями этого типа являются элементы набора литер, определяемого реализацией языка.

Шина данных

обеспечивает передачу данных между различными устройствами.

cout

поток вывода в С++ (). 25.

Смотреть больше терминов

Повышай знания с онлайн-тренажером от Автор24!

Напиши термин
Выбери определение из предложенных или загрузи свое
Тренажер от Автор24 поможет тебе выучить термины с помощью удобных и приятных карточек

Все самое важное и интересное в Telegram

Все сервисы Справочника в твоем телефоне! Просто напиши Боту, что ты ищешь и он быстро найдет нужную статью, лекцию или пособие для тебя!

Перейти в Telegram Bot