Что означает статус Intel IPP -11 (ippStsOutOfRangeErr)?

 
Предыдущий Следующий
ippStsDataTypeErr ippStsDivByZeroErr

ippStsOutOfRangeErr

Что означает ippStsOutOfRangeErr

ippStsOutOfRangeErr означает, что один из числовых аргументов IPP находится вне диапазона, допустимого для вызванной primitive.

Что проверить

  • Определите конкретный параметр и сравните его с документированными min/max для этой функции и типа данных.
  • Проверьте преобразования signed/unsigned, масштабирование, округление и единицы измерения до вызова.
  • Для координат и размеров вычисляйте конечную границу в расширенном типе, чтобы переполнение не превратило корректное значение в отрицательное.

Как исправлять

Исправьте вычисление аргумента у источника. Ограничивать значение через clamp допустимо только там, где это соответствует смыслу алгоритма; иначе такая маскировка превращает ошибку геометрии или масштаба в незаметное искажение результата.

Технические ссылки


Нужно найти другой код? Найти другой код состояния или ошибки.