Постусловие
задает новые ограничения на эти переменные после выполнения оператора и обозначается как {Q}.
Округление приближенного числа
Предмет
Программирование
👍 Проверено
Автор24
замена его числом с меньшим количеством значащих цифр.
Научные статьи на тему «Округление приближенного числа»
Аналого-цифровой преобразователь
Округление последовательности значений исходной величины, полученных в определенные моменты времени,...
Процесс квантования по дискретной функции U (Тд) состоит в отображении бесконечного числа ее значений...
уровней N, после чего производится округление каждой величины Un(Тд) до самого близкого уровня $U*n$...
Число каналов (от 1 до 64 аналоговых каналов).
Напряжение питания.
Поддерживаемый интерфейс....
высокой частотой, после чего сигнал поступает на аналого-цифровой преобразователь последовательного приближения
Статья от экспертов
Решение задачи линейного программирования с произвольной точностью на распределенных вычислительных системах с мрi
Предметом статьи являются способы получения как точного решения, так и приближенного решения с гарантированной точностью, а также способы повышения точности вычислений на распределенных вычислительных системах с МР1. Для получения таких решений применяются дробно-рациональные вычисления без округления, вычисления над числами с плавающей точкой произвольной наперед заданной точностью и интервальные вычисления с такими числами. Представлены способы адаптации предложенных типов данных к МР1. Результаты вычислительного эксперимента на разработанных параллельных алгоритмах решения систем линейных алгебраических уравнений и задач линейного программирования показывают эффективность их применения.
Creative Commons
Научный журнал
Численные методы в инженерных задачах
Приближенным значением именуется такое число, которое имеет незначительное отличие от точного значения...
Отличие приближенного значения числа от его точной величины может характеризоваться погрешностью....
обусловлена исполнением вычислений над приближенными числами....
Погрешности округления, которые связаны с округлением значений начальных данных, промежуточных и конечных...
погрешности числа.
Статья от экспертов
Метод умножения с масштабированием результата для высокоточных модулярно- позиционных интервально-логарифмических вычислений
Введение. Для решения задач моделирования, критичных к ошибкам округления (включая задачи вычислительной математики, математической физики, оптимального управления, биохимии, квантовой механики, математического программирования и криптографии), требуется точность от 100 до 1 000 десятичных цифр и более. Главным недостатком программных библиотек высокоточных вычислений является неприемлемое для практических задач снижение быстродействия, в особенности при выполнении операции умножения. Одним из способов повышения скорости вычислений над длинными числами является использование системы счисления в остаточных классах. В данной статье рассматривается новый, более быстрый по сравнению с аналогами метод выполнения операции умножения длинных чисел с масштабированием результата за счет применения оригинальной гибридной модулярно-позиционной интервально-логарифмической формы представления чисел с плавающей точкой. Материалы и методы. Для повышения скорости вычислений разработан новый способ о...
Creative Commons
Научный журнал
Еще термины по предмету «Программирование»
Процедура начальной загрузки
ввод программы в оперативную память для выполнения, при котором никакие программы, кроме вводимой, не управляют вводом.
Символьный (литерный) тип
значениями этого типа являются элементы набора литер, определяемого реализацией языка.
- Округление
- Приближение
- Эффект округления
- Участок приближения
- Квазигеострофическое приближение
- Геострофическое приближение
- Гидростатическое приближение
- Адиабатическое приближение
- Приближения градиент
- Десятичное приближение
- Диофантовы приближения
- Приближения теория
- Приближенное значение
- Число
- Число (число грамматическое)
- Габарит приближения строений
- Погрешность (ошибка) приближения
- Порядок приближения, аппроксимации
- Арифметическая погрешность (округления погрешность)
- Радиус округления режущей кромки
Повышай знания с онлайн-тренажером от Автор24!
- Напиши термин
- Выбери определение из предложенных или загрузи свое
- Тренажер от Автор24 поможет тебе выучить термины с помощью удобных и приятных карточек
