Определить, является ли многоугольник выпуклым - C (СИ)

Формулировка задачи:

Я рандомно указываю координаты n угольника. А в дальнейшем нужно проверить выпуклый ли он. И если нет, то далее продолжить построение пока он не станет выпуклым Подскажите каким способом можно проверить выпуклость данной фигуры?!

Решение задачи: «Определить, является ли многоугольник выпуклым»

Листинг программы

def grahamscan(A):
  n = len(A) # число точек
  P = range(n) # список номеров точек
  for i in range(1,n):
    if A[P[i]][0]<A[P[0]][0]: # если P[i]-ая точка лежит левее P[0]-ой точки
      P[i], P[0] = P[0], P[i] # меняем местами номера этих точек 
  for i in range(2,n): # сортировка вставкой
    j = i
    while j>1 and (rotate(A[P[0]],A[P[j-1]],A[P[j]])<0): 
      P[j], P[j-1] = P[j-1], P[j]
      j -= 1
  S = [P[0],P[1]] # создаем стек
  for i in range(2,n):
    while rotate(A[S[-2]],A[S[-1]],A[P[i]])<0:
      del S[-1] # pop(S)
    S.append(P[i]) # push(S,P[i])
  return S

Объяснение кода листинга программы

В данном коде реализована алгоритм проверки выпуклости многоугольника, известный как алгоритм Грэма. Алгоритм использует набор точек A и последовательность точек P, которая представляет собой путь обхода многоугольника в направлении, заданном правой рукой.

Входные данные:
- A: набор точек (список списков из двух элементов, где каждый внутренний список представляет собой координаты точки в двумерном пространстве)
- n: количество точек в наборе A
- P: список номеров точек, начиная с 0
Выходные данные:
- S: последовательность точек, представляющая выпуклый контур многоугольника
Шаги алгоритма:
- Сортировка точек P по x-координате (путь обхода многоугольника начинается с наименьшей x-координаты)
- Создание стека S, содержащего первые две точки пути обхода
- Обход оставшихся точек и добавление их в стек S, если они лежат на выпуклой стороне многоугольника относительно текущей вершины стека
- Возврат последовательности точек S Вот список основных переменных и их значений в коде:
A: набор точек
n: количество точек в наборе A
P: список номеров точек, начиная с 0
S: последовательность точек, представляющая выпуклый контур многоугольника Обратите внимание, что в коде используются вспомогательные переменные и функции, такие как rotate, которые помогают в реализации алгоритма. Они не включены в этот список, так как их значения не являются основными для понимания работы кода.