Справочник от Автор24
Найди эксперта для помощи в учебе
Найти эксперта
+2

Арифметическая погрешность (округления погрешность)

Предмет Высшая математика
👍 Проверено Автор24

погрешность результата вычислений, образуемая округлениями, произведенными при выполнении арифметических операций

Научные статьи на тему «Арифметическая погрешность (округления погрешность)»

Вычислительные методы в экономике

вычислений — погрешности округлений, именно поэтому реальные вычислительные алгоритмы требуют анализа...
Следует помнить, что вычислительные программы выполняют всего четыре ключевых арифметических операции...
Довольно долго исследователи не принимали во внимание погрешности округления при определении условий...
и критериев роста погрешности....
погрешности.

Статья от экспертов

Ошибки усечения результатов арифметических операций с фиксированной точкой в алгоритмах быстрого преобразования Фурье

Рассматриваются ошибки вычисления быстрого преобразования Фурье (БПФ) с прореживанием по частоте в отсутствии масштабирования, обусловленные ограничением разрядности результатов арифметических операций умножения при обработке данных с фиксированной точкой в зависимости от размера преобразования, номера спектральной составляющей, а также от способа приведения результата к системной длине слова (усечение или округление данных). Получены аналитические выражения среднеквадратического значения ошибок вычисления БПФ белого гауссовского шума как при усечении, так и при округлении результатов операций умножения в алгоритме БПФ с прореживанием по частоте в отсутствии масштабирования. Показано, что в области низких частот для приближенной оценки уровня шумов, вызванных усечением разрядности результатов арифметических операций, можно использовать зависимость модуля математического ожидания ошибок усечения от номера спектрального отсчета. Поставлен математический эксперимент по вычислению погре...

Научный журнал

Численные методы в инженерных задачах

Следует выделить следующие главные источники погрешностей: Погрешности, связанные с постановкой задачи...
Погрешности округления, которые связаны с округлением значений начальных данных, промежуточных и конечных...
погрешности числа....
Для того чтобы оценить погрешности результатов арифметических операций, следует использовать существующие...
абсолютных погрешностей чисел.

Статья от экспертов

Проектирование учебного процессора с фиксированной запятой в системе MATLAB/Simulink

В работах [1, 2] с использованием системы команд из работ [3, 4] показаны примеры проектирования микропроцессорных ядер для реализации в базисе ПЛИС фирмы Altera с использованием как мегафункций асинхронного ОЗУ/ПЗУ САПР Quartus II, так и функциональных блоков на языке VHDL, сгенерированных с помощью Simulink HDL Coder системы MATLAB/Simulink. Общим недостатком работ [1, 2] является отсутствие управляющего автомата. В данной статье предлагается на основе системы команд из работы [4] спроектировать в системе MATLAB/Simulink процессор с управляющим автоматом, позволяющим проводить вычисления с фиксированной зяпятой. Выполнение арифметических операций над операндами, представленными в формате с фиксированной запятой, дает возможность получать высокую скорость вычислений, но возможно переполнение разрядной сетки либо появление значительной погрешности из-за округления.

Научный журнал

Еще термины по предмету «Высшая математика»

Класс алгебраической кривой

максимальное число касательных, которые можно провести к данной алгебраической кривой из произвольной точки P плоскости, не лежащей на этой кривой

🌟 Рекомендуем тебе
Смотреть больше терминов

Повышай знания с онлайн-тренажером от Автор24!

  1. Напиши термин
  2. Выбери определение из предложенных или загрузи свое
  3. Тренажер от Автор24 поможет тебе выучить термины с помощью удобных и приятных карточек
Все самое важное и интересное в Telegram

Все сервисы Справочника в твоем телефоне! Просто напиши Боту, что ты ищешь и он быстро найдет нужную статью, лекцию или пособие для тебя!

Перейти в Telegram Bot