Линейный конгруэнтный метод

Линейный конгруэнтный метод — один из методов генерации псевдослучайных чисел. Применяется в простых случаях и не обладает криптографической стойкостью. Входит в стандартные библиотеки различных компиляторов.

Описание

Линейный конгруэнтный метод был предложен Д. Г. Лемером на проходившем в 1949 году симпозиуме и опубликован в 1951 году в трудах симпозиума.[1] Суть метода заключается в вычислении последовательности случайных чисел ${\displaystyle X_{n}}$, полагая

${\displaystyle X_{n+1}=(aX_{n}+c)~~{\bmod {~}}~m,}$

где ${\displaystyle m}$ — модуль (натуральное число, относительно которого вычисляет остаток от деления; ${\displaystyle m\geqslant 2}$), ${\displaystyle a}$ — множитель (${\displaystyle 0\leqslant a<m}$), ${\displaystyle c}$ — приращение (${\displaystyle 0\leqslant c<m}$), ${\displaystyle X_{0}}$ — начальное значение (${\displaystyle 0\leqslant X_{0}<m}$).

Эта последовательность называется линейной конгруэнтной последовательностью. Например, для ${\displaystyle m=10,X_{0}=a=c=7}$ получим последовательность ${\displaystyle 7,6,9,0,7,6,9,0,\dots }$[2]

Свойства

Линейная конгруэнтная последовательность, определенная числами ${\displaystyle m}$, ${\displaystyle a}$, ${\displaystyle c}$ и ${\displaystyle X_{0}}$ периодична с периодом, не превышающим ${\displaystyle m}$. При этом длина периода равна ${\displaystyle m}$ тогда и только тогда, когда[3]:

1. Числа ${\displaystyle c}$ и ${\displaystyle m}$ взаимно простые;
2. ${\displaystyle b=a-1}$ кратно ${\displaystyle p}$ для каждого простого ${\displaystyle p}$, являющегося делителем ${\displaystyle m}$;
3. ${\displaystyle b}$ кратно ${\displaystyle 4}$, если ${\displaystyle m}$ кратно ${\displaystyle 4}$.

Наличие этого свойства для случая ${\displaystyle m=2^{e}}$, где ${\displaystyle e}$ — число битов в машинном слове, было доказано М. Гринбергом (англ. M. Greenberg).[4] Наличие этого свойства для общего случая и достаточность условий были доказаны Т. Е. Халлом (англ. T. E. Hull) и А. Р. Добеллом (англ. A. R. Dobell).[5]

Метод генерации линейной конгруэнтной последовательности при ${\displaystyle c=0}$ называют мультипликативным конгруэнтным методом, а при ${\displaystyle c\neq 0}$ — смешанным конгруэнтным методом. При ${\displaystyle c=0}$ генерируемые числа будут иметь меньший период, чем при ${\displaystyle c\neq 0}$, но при определенных условиях можно получить период длиной ${\displaystyle m-1}$, если ${\displaystyle m}$ — простое число. Тот факт, что условие ${\displaystyle c\neq 0}$ может приводить к появлению более длинных периодов, был установлен В. Е. Томсоном (англ. W. T. Thomson) и независимо от него А. Ротенбергом (англ. A. Rotenberg).[2] Чтобы гарантировать максимальность цикла повторения последовательности при ${\displaystyle c=0}$, необходимо в качестве значения параметра ${\displaystyle m}$ выбирать простое число. Самым известным генератором подобного рода является так называемый минимальный стандартный генератор случайных чисел, предложенный Стивеном Парком (англ. Stephen Park) и Кейтом Миллером (англ. Keith Miller) в 1988 году. Для него ${\displaystyle a=16807}$, а ${\displaystyle m=2147483647}$.[6][7]

Наиболее часто практикуемым методом генерации последовательностей псевдослучайных чисел является смешанный конгруэнтный метод.^[источник не указан 2708 дней]

Часто используемые параметры

При выборе числа ${\displaystyle m}$ необходимо учитывать следующие условия:

1) число ${\displaystyle m}$ должно быть довольно большим, так как период не может иметь больше ${\displaystyle m}$ элементов;

2) значение числа ${\displaystyle m}$ должно быть таким, чтобы ${\displaystyle (aX_{n}+c)\mod m}$ вычислялось быстро.

На практике при реализации метода исходя из указанных условий чаще всего выбирают ${\displaystyle m=2^{e}}$, где ${\displaystyle e}$ — число битов в машинном слове. При этом стоит учитывать, что младшие двоичные разряды сгенерированных таким образом случайных чисел демонстрируют поведение, далёкое от случайного, поэтому рекомендуется использовать только старшие разряды. Подобная ситуация не возникает, когда ${\displaystyle m=w\pm 1}$, где ${\displaystyle w}$ — длина машинного слова. В таком случае младшие разряды ${\displaystyle X_{n}}$ ведут себя так же случайно, как и старшие.[2] Выбор множителя ${\displaystyle a}$ и приращения ${\displaystyle c}$ в основном обусловлен необходимостью выполнения условия достижения периода максимальной длины.

Таблица хороших констант для линейных конгруэнтных генераторов

Все приведенные константы обеспечивают работу генератора с максимальным периодом. Таблица упорядочена по максимальному произведению, которое не вызывает переполнение в слове указанной длины.[8]

Переполняется при	a	c	m
2^20	106	1283	6075
2^21	211	1663	7875
2^22	421	1663	7875
2^23	430	2531	11979
2^23	936	1399	6655
2^23	1366	1283	6075
2^24	171	11213	53125
2^24	859	2531	11979
2^24	419	6173	29282
2^24	967	3041	14406
2^25	141	28411	134456
2^25	625	6571	31104
2^25	1541	2957	14000
2^25	1741	2731	12960
2^25	1291	4621	21870
2^25	205	29573	139968
2^26	421	17117	81000
2^26	1255	6173	29282
2^26	281	28411	134456
2^27	1093	18257	86436
2^27	421	54773	259200
2^27	1021	24631	116640
2^28	1277	24749	117128
2^28	2041	25673	121500
2^29	2311	25367	120050
2^29	1597	51749	244944
2^29	2661	36979	175000
2^29	4081	25673	121500
2^29	3661	30809	145800
2^30	3877	29573	139968
2^30	3613	45289	214326
2^30	1366	150889	714025
2^31	8121	28411	134456
2^31	4561	51349	243000
2^31	7141	54773	259200
2^32	9301	49297	233280
2^32	4096	150889	714025
2^33	2416	374441	1771875
2^34	17221	107839	510300
2^34	36261	66037	312500
2^35	84589	45989	217728

Печально известен «неудачный» (с точки зрения качества выходной последовательности) алгоритм RANDU, на протяжении многих десятилетий использовавшийся в самых разных компиляторах.

Для улучшения статистических свойств числовой последовательности во многих генераторах псевдослучайных чисел используется только часть битов результата. Например, в стандарте ISO/IEC 9899 на язык Си приведен (но не указан в качестве обязательного) пример функции rand(), принудительно отбрасывающей младшие 16 и один старший разряд.

#define RAND_MAX 32767 

static unsigned long int next = 1;

int rand(void)
{
  next = next * 1103515245 + 12345;
  return (unsigned int)(next/65536) % (RAND_MAX + 1);
}

void srand(unsigned int seed)
{
  next = seed;
}

Именно в таком виде функция rand() используется в компиляторах Watcom C/C++. Известны числовые параметры иных алгоритмов, применяемых в различных компиляторах и библиотеках.

Source	m	множитель a	слагаемое c	используемые биты
Numerical Recipes[9]	2^32	1664525	1013904223
Borland C/C++	2^32	22695477	1	bits 30..16 in rand(), 30..0 in lrand()
glibc (used by GCC)[10]	2^31	1103515245	12345	bits 30..0
ANSI C: Watcom, Digital Mars, CodeWarrior, IBM VisualAge C/C++[11]	2^31	1103515245	12345	bits 30..16
C99, C11: Suggestion in the ISO/IEC 9899[12]	2^32	1103515245	12345	bits 30..16
Borland Delphi, Virtual Pascal	2^32	134775813	1	bits 63..32 of (seed * L)
Microsoft Visual/Quick C/C++	2^32	214013 (343FD16)	2531011 (269EC316)	bits 30..16
Microsoft Visual Basic (6 and earlier)[13]	2^24	1140671485 (43FD43FD16)	12820163 (C39EC316)
RtlUniform from Native API[14]	2^31 − 1	2147483629 (7FFFFFED16)	2147483587 (7FFFFFC316)
Apple CarbonLib, C++11's minstd_rand0[15]	2^31 − 1	16807	0	see MINSTD
C++11's minstd_rand[15]	2^31 − 1	48271	0	see MINSTD
MMIX by Donald Knuth	2^64	6364136223846793005	1442695040888963407
Newlib	2^64	6364136223846793005	1	bits 63…32
VAX's MTH$RANDOM,[16] old versions of glibc	2^32	69069	1
Java	2^48	25214903917	11	bits 47…16
Ранее во многих компиляторах:
RANDU	2^31	65539	0

Возможность использования в криптографии

Хотя линейный конгруэнтный метод порождает статистически хорошую псевдослучайную последовательность чисел, он не является криптографически стойким. Генераторы на основе линейного конгруэнтного метода являются предсказуемыми, поэтому их нельзя использовать в криптографии. Впервые генераторы на основе линейного конгруэнтного метода были взломаны Джимом Ридсом (Jim Reeds), а затем Джоан Бойяр. Ей удалось также вскрыть квадратические и кубические генераторы. Другие исследователи расширили идеи Бояр, разработав способы вскрытия любого полиномиального генератора. Таким образом, была доказана бесполезность генераторов на основе конгруэнтных методов для криптографии. Однако генераторы на основе линейного конгруэнтного метода сохраняют свою полезность для некриптографических приложений, например, для моделирования. Они эффективны и в большинстве используемых эмпирических тестов демонстрируют хорошие статистические характеристики[8].

См. также

• Генератор псевдослучайных чисел
• Инверсный конгруэнтный метод

Примечания

1. D. H. Lehmer, Mathematical methods in large-scale computing units Архивная копия от 19 апреля 2024 на Wayback Machine, Proceedings of a Second Symposium on Large-Scale Digital Calculating Machinery, 1949, Harvard University Press, Cambridge, Mass., 1951, pp. 141—146. MR 0044899 (13,495f)[1] Архивная копия от 24 декабря 2013 на Wayback Machine
2. Дональд Кнут. Том 2. Получисленные методы // Искусство программирования. Указ. соч. — С. 21—37.
3. Кнут Д. Э., Искусство программирования. Том 2. Получисленные методы — Вильямс. 2001. с.21-37
4. M. Greenberger, Method in randomness, Comm. ACM 8 (1965), 177—179.[2] Архивная копия от 24 декабря 2013 на Wayback Machine
5. T.E. Hull and A.R. Dobell «Random Number Generators»,SIAM Review 4-3(1962),230-254 [3] Архивная копия от 24 декабря 2013 на Wayback Machine
6. "Бакнелл Д. М. Фундаментальные алгоритмы и структуры данных в Delphi. Библиотека программиста. 2002 год. журнал Delphi Informant Magazine. Глава 6.
7. Stephen K. Park and Keith W. Miller (1988). Random Number Generators: Good Ones Are Hard To Find. Communications of the ACM 31 (10): 1192—1201[4] Архивная копия от 4 апреля 2019 на Wayback Machine
8. Брюс Шнайер. Глава 16. // Прикладная криптография.Триумф.2002. Указ. соч. — С. 275.[5] Архивная копия от 28 февраля 2014 на Wayback Machine
9. Numerical recipies in C. The art of scientific computing. 2-nd edition. — Cambridge University Press, 1992. — 925 pp.
10. The GNU C library’s rand() in stdlib.h uses a simple (single state) linear congruential generator only in case that the state is declared as 8 bytes. If the state is larger (an array), the generator becomes an additive feedback generator and the period increases. See the simplified code Архивная копия от 2 февраля 2015 на Wayback Machine that reproduces the random sequence from this library.
11. A collection of selected pseudorandom number generators with linear structures, K. Entacher, 1997  (неопр.). Дата обращения: 16 июня 2012. Архивировано 5 июня 2013 года.
12. Last public Committee Draft from April 12, 2011, page 346f  (неопр.). Дата обращения: 21 декабря 2014. Архивировано 25 декабря 2021 года.
13. How Visual Basic Generates Pseudo-Random Numbers for the RND Function  (неопр.). Microsoft Support. Microsoft. Дата обращения: 17 июня 2011. Архивировано 17 апреля 2011 года.
14. In spite of documentation on MSDN Архивная копия от 8 марта 2016 на Wayback Machine, RtlUniform uses LCG, and not Lehmer’s algorithm, implementations before Windows Vista are flawed, because the result of multiplication is cut to 32 bits, before modulo is applied
15. ISO/IEC 14882:2011  (неопр.). ISO (2 сентября 2011). Дата обращения: 3 сентября 2011. Архивировано 17 мая 2013 года.
16. GNU Scientific Library: Other random number generators  (неопр.). Дата обращения: 10 января 2015. Архивировано 11 декабря 2014 года.

Литература

• Дональд Э. Кнут. Глава 3. Случайные числа // Искусство программирования = The Art of Computer Programming. — 3-е изд. — М.: Вильямс, 2000. — Т. 2. Получисленные алгоритмы. — 832 с. — 7000 экз. — ISBN 5-8459-0081-6 (рус.) ISBN 0-201-89684-2 (англ.).

Ссылки

• Л. Бараш. Алгоритм AKS проверки чисел на простоту и поиск констант генераторов псевдослучайных чисел // Безопасность информационных технологий. — 2005. — № 2. — С. 27—38.
• Stephen K. Park and Keith W. Miller. Random Number Generators: Good Ones Are Hard To Find. — 1988. — № 2. — С. 1192—1201.
• Бакнелл Д.М. Фундаментальные алгоритмы и структуры данных в Delphi.Библиотека программиста.[6] // Delphi Informant Magazine. — 2002.