Методические указания по статистической обработке данных экспериментальных исследований

Министерство образования и науки РФ Восточно-Сибирский государственный технологический университет

Методические указания по статистической обработке данных экспериментальных исследований для студентов IV курса специальности 270800 «Технология консервов и пищеконцентратов» и специальности 270900 «Технология мяса и мясных продуктов»

Составители: Федорова Т.Ц. Баженова Б.А.

Издательство ВСГТУ Улан – Удэ 2004

В методическом указании предложены методы статистической обработки данных экспериментальных исследований, получаемых в ходе выполнения НИРС, УИРС и выпускной квалификационной работы для студентов специальностей 270800, 270900, направления 552400. Ключевые слова: средняя арифметическая, отклонение, достоверность, корреляция, регрессия, аппроксимация.

ВВЕДЕНИЕ Оценка физических, химических, органолептических, структурно-механических показателей продукта, сравнение результатов оценки с контрольной величиной, определяемой нормативно-технической документацией является основой контроля качества продукции в мясной промышленности. Эффективность контроля качества зависит от достоверности оценки показателя и достоверности сравнения его с контрольной величиной. Достоверность оценки и сравнения может быть достигнута только при применении статистических методов контроля качества, заключающихся в математической обработке результатов анализа и научно обоснованном сравнении полученных величин с контрольными. Применение статистических методов контроля в мясной промышленности позволяет не только объективно оценить результаты анализа состава и количества продукции, но и контролировать расход сырья на производство единицы продукта. Целью настоящего методического указания является оценка истинного значения точности измерения величины показателя.

Средняя арифметическая 1) Средняя арифметическая простая (невзвешенная) – M Показывает среднее значение изучаемого признака и определяется по формуле: n

M =

∑X i =1

n

i

m=

,

где X i - значение единичного измерения величины; n – число повторностей измерений величины Использовать среднюю арифметическую невзвешенную можно только тогда, когда точно установлено отсутствие весов или их равенство. 2) Средняя арифметическая взвешенная При расчете средних величин отдельные значения осредняемого признака могут повторяться, встречаться по нескольку раз. В подобных случаях расчет средней производится по сгруппированным данным или вариационным рядам. Средневзвешенная арифметическая рассчитывается для значений признака с неодинаковыми математическими весами: M =

∑X P = X ∑P i

Стандартное отклонение (ошибка средней арифметической) - m Стандартное отклонение – ошибка средней арифметической, является показателем ее достоверности.

P + X 2 P2 + ... + X im Pn

i1 1

P1 + P2 + ... + Pn

,

где X i - значение единичного измерения величины; P - математический вес этой величины.

m=

δ

n

,

δ

n −1

при

n〉30

, при

n〈30

Чем меньше величина стандартного отклонения, тем меньше расхождение между значениями параметров. Обычно ошибку средней арифметической указывают в следующим виде: M ±m

Среднее квадратическое отклонение Среднее квадратическое отклонение – это обобщающая характеристика размеров вариации признака в совокупности. δ =

∑(X

i

− M )2

n

,

M - средняя арифметическая X i - i -е значение варвирующего признака n - число повторностей измерений величины

Величина δ всегда > 0. Чем больше значение этой величины, тем больше изменчивость признака исследуемого объекта.

Достоверность средней арифметической t=

M m

Чем больше значение t, тем достовернее выборочная средняя. Если значение t < 1,96, то выборочная средняя арифметическая недостоверна. Если 1,96 < t ≤ 2,58, то достоверность выводов составляет 95 % и более (уровень существенности Р< 0,05). Если 2,58 < t ≤ 3,3, то достоверность составляет 99% (уровень существенности Р<0,01). При малом числе измерений (n< 30) нормированное значение t определяется по таблице Стьюдента (приложение 1). Если величина t при заданном числе степеней свободы V (V = n − 1) , больше табличных значений на трех уровнях доверительной вероятности ( P − 0,95;0,99;0,999), то можно считать полученную величину средней арифметической M высоко достоверной. Достоверность разницы между двумя средними арифметическими. Часто при научных исследованиях бывает необходимо оценить достоверность между двумя средними арифметическими (например, между контролем и опытом).

Для оценки достоверности служит показатель достоверности td . t=

M1 − M 2 m12 + m22

,

где M 1 и M 2 - средние арифметические сравниваемых показателей; m1 и m2 - стандартные отклонения средних арифметических. Критерий достоверности td должен быть больше критерия достоверности по таблице Стьюдента ( td 〉tst ). Разница между сравниваемыми величинами будет достоверна при td 〉tst . Если td 〉tst , то разница недостоверна или вообще нет разницы между двумя величинами. Корреляционная зависимость Корреляционная связь является частным случаем стохастической связи и показывает взаимную вероятностную или статистическую связь или зависимость между случайными величинами, не имеющими строго функционального характера, при которой изменение одной из случайных величин приводит к изменению математического ожидания другой. При корреляционной связи изменение среднего значения результативного признака обусловлено изменением факторных признаков. Максимальная степень корреляции принята за 1.

Различают следующие виды корреляционной связи: Сильная: ±0,7 ÷ ±1,0 Умеренная: ±0,5 ÷ ±0,7 Слабая: ±0,3 ÷ ±0,5 Если r < ± 0,3, то связь практически отсутствует. Знак минус или плюс у коэффициента корреляции r указывает на направление связи. Знак плюс означает, что связь между признаками X и Y прямая (положительная), знак минус – связь обратная (отрицательная) r=

∑ ( X − M )(Y − M ) ∑ ( X − M ) • ∑ (Y − M ) i

x

i

y

2

i

2

,

2. Y = a0 − a1 x Y

2 Х

б) нелинейную регрессию, которая выражается уравнением: парабола 1. Y = a0 + a1 x + a2 x 2 2. Y = a0 − a1 x − a2 x 2

i

где X i и Yi - значения единичного результата; M x и M y - средние арифметические признаков X и Y. Коэффициент корреляции представляет собой количественную характеристику тесноты связи между признаками. Величина коэффициента корреляции служит также оценкой соответствия уравнения регрессии выявленным связям. Определение уравнения регрессии Корреляция и регрессия тесно связаны между собой. Корреляция оценивает силу связи, регрессия исследует ее форму. Различают: а) линейную регрессию, которая выражается уравнением прямой (линейной функцией) 1. Y = a0 + a1 x

1

Y

1

2 X

гипербола 1. Y = a0 +

a1 X

Y

X

Оценка точности аппроксимации Точность аппроксимации оценивается при уравнении регрессии любого вида коэффициентом аппроксимации έ (процентах). E=

&• xi 100 y −& y& ∑ n yi

прочность аппроксимации считается удовлетворительной, если έ ≤ 10 %.

ПРИЛОЖЕНИЕ 1 Значения критерия достоверности (t) при разных уровнях значимости (Р) по Стьюденту Число степеней свободы 1 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

Уровень значимости (Р) Р = 0,1 Р = 0,01 Р = 0,05 Значение критерия 2 6,314 63,637 12,706 2,920 9,925 4,303 2,353 5,841 3,182 2,132 4,604 2,776 2,015 4,032 2,571 1,943 3,707 2,447 1,895 3,499 2,365 1,860 3,355 2,306 1,833 3,250 2,262 1,812 3,169 2,228 1,796 3,106 2,201 1,782 3,055 2,179 1,771 3,012 2,160 1,761 2,977 2,145 1,753 2,947 2,131 1,746 2,921 2,120 1,740 2,898 2,110 1,734 2,878 2,101 1,729 2,861 2,093 1,725 2,845 2,086

1 21 22 23 24 25 26 27 28 29 30 ∞

1,721 1,717 1,714 1,714 1,708 1,706 1,703 1,701 1,699 1,697 1,645

2 2,831 2,819 2,807 2,797 2,787 2,779 2,771 2,763 2,756 2,750 2,576

2,080 2,074 2,069 2,064 2,060 2,056 2,052 2,048 2,045 2,042 1,960

Список рекомендуемой литературы: 1. Грачев Ю.П. Математические методы планирования экспериментов. -М.: Пищевая промышленность, 1979.-200 с. 2. Кремер Н.Ш. Теория вероятности и математической статистики. - М.: ИНФПА, 2000 3. Теория статистики /Под ред. Шмойловой Р.А.М.: Финансы и статистика, 2001.-560 с. 4. Основы научных исследований /Под ред. Крутова В.И., Попова В.В. – М.: Высшая школа, 1989.- 400 с.

Подписано в печать 15.04.2004 г. Формат 60*84 1/16. Усл.п.л.. 0,93 уч.-изд.л. 0,7 Тираж 40 Заказ № 136 Издательство ВСГТУ. г. Улан-Удэ, ул. Ключевская, 40 а. с ВСГТУ, 2004 г.