Решил написать скрипт на Rhinoscript, но после непродолжительных попыток понял, что производительность очень низкая. Пришлось написать эту команду, используя Rhino SDK.
Вот, что у меня получилось: команда отрабатывает на предвыбранной кривой либо просит пользователя выбрать кривую. После этого создаются точки пересечения и выделяются, чтобы пользователь мог их видеть и выполнять какие-то действия с ними дальше.
Ссылка для скачивания: GGCurveSelfIntersect.rar
Вот как выглядит результат работы этой команды:

Требования: Rhinoceros 3D v4.8
Установка: скачайте, разархивируйте в любую удобную для Вас папку, затем открыв Rhinoceros, установите плагин - Tools -> Options -> Plugins -> Install ... указываете на файл в том месте, куда Вы его сохранили. После этого становится доступной команда "GGCurveSelfIntersection".