Существует 2 классических последовательности кнопок в диалоговых окнах:
- OK/Cancel
- Cancel/OK
Каждый вариант имеет свои причины для существования:
- "ОК" в начале. При чтении слева направо, как это делается в английском, русском и многих других языках, сначала идет ОК, а потом - Cancel. Эта же причина используется для расположение кнопок Yes/No или Previous/Next именно в таком порядке. Также, при перемещении по кнопкам при помощи Tab, чтобы попасть на ОК, который чаще нужен пользователю, потребуется на одно нажатие меньше, чем на Cancel.
- "ОК" в конце. Правильнее с точки зрения потока, так как выбирая "ОК" - мы заканчиваем диалог. Также, по аналогии с Previous/Next, выбирая ОК пользователь продвигается вперед, а Cancel - отбрасывает его назад. С этой токи зрения OK = Next, и должен находится в конце.
Не имеет такого уж большого значения как вы расположите эти кнопки. Каждый из этих вариантов имеет свои сильные аргументы и ни один не приведет к юзабилити-катастрофе. Но в каких-то случаях это сохранит пользователю 0.1 секунды.
Чтобы решить, как лучше вам поступить именно в вашем приложении - достаточно руководствоваться стандартами GUI платформы, на которой работает ваше приложение.
К сожалению, Windows Vista User Experience Guidelines отличается от Apple Human Interface Guidelines когда речь заходит о кнопках OK/Cancel:
- В Windows OK ставится вначале
- В Apple OK ставится в конце
Если вы разрабатываете десктопное приложение - делайте, как это принято в используемой ОС.
Соответствуя ожиданиям пользователя этой ОС вы сэкономите ему больше времени и убережете его от глупых ошибок.
Если вы разрабатываете Web-приложение - выбор сделать сложнее.
Вы можете опять же попытаться расположить кнопки, учитывая то, пользователей каких платформ у вас больше. Логи вашего сервера дадут вам необходимую информацию.
Однако, можно дать еще более универсальную рекомендацию, которую иллюстрирует следующий скриншот Office 2007:

- Использовать в названии кнопки текст, описывающий, что точно делает данная кнопка. Например, написать Save вместо ОК.
- Установить фокус по умолчанию на более часто используемую кнопку и выделить ее цветом. В этом случае легко будет сделать нужный выбор, нажав Enter.
Подробнее:
http://www.useit.com/alertbox/ok-cancel.html
Ссылки по теме:
http://www.rimmkaufman.com/rkgblog/2008/05/29/usable-sites-must-persuade-too/
http://measuringuserexperience.com/SubmitCancel/index.htm
http://hellousability.blogspot.com/2007/10/ok-cancel-buttons-evolution-till-web-20.html