kazutomakino

サーバー

自作サーバーにブログを引っ越す~第1章:ハードウェア構築編~

前回記事の「自作サーバーにブログを引っ越す~序章:背景/検討事項洗い出しと技術調査~」に引き続き,今回はハードウェアから準備していきます.(今回は「ハードウェア構築編」と言いつつも,開封動画に近いですが...)サーバー移行のタイムリミットも...
サーバー

自作サーバーにブログを引っ越す~序章:背景/検討事項洗い出しと技術調査~

レンタルサーバーを借りてブログ運営していましたが,今年で契約満了に伴い,サーバー契約更新せずにそのまま自作サーバーに引っ越すことにしました!現状可否不明だが多分できるであろうという見切り発車ですが,タイムリミットは 2023/12/31 中...
プログラミング

【pandas】数 GByte 超に肥大化した .csv ファイルを読み込み違うファイル形式で保存し直す

お仕事お疲れ様です.こんなことは経験ありませんか?「現場や顧客から分析を依頼された .csv データが数 GByte 超で,excel では開けないし,普通に読みこむとメモリエラーで詰んだ....」「センサーを放ったらかしてデータを取得し続...
python

pandas / polars における concat の速度比較

pandas で primary key 使わずに複数のテーブル(DataFrame)を行方向に結合する際に,追加したいテーブルを逐次 concat する方法しか頭にありませんでした.しかし,たまたま見かけたコードでは,「list に Da...
AI

Python embeddable package を用いて環境構築不要な簡易 GUI 付き音声文字起こしツールを作成/部署内展開した話

(注意:初版公開日の 2023/08/21 時点では部署内への展開前であり,身内をテストユーザーとしてレビューいただいている状況です.)社会人たるもの,クライアントや社内に対する会議への参加は不可避で,付随して議事録作成もほぼ不可避な業務と...
プログラミング

【自前AI講座】畳み込みニューラルネットワークの基礎

ディープラーニングが流行ったのは,2010年から始まった大規模画像認識コンペティションの ILSVRC (ImageNet Large Scale Visual Recognition Challenge) において,2012年大会の Im...
プログラミング

【自前AI講座】ディープラーニング基礎と実装

ディープラーニング (Deep Learning; DL,深層学習) は,ニューラルネットワークの層を深くしたディープニューラルネットワーク (Deep Neural Network; DNN) を用いて学習する手法です.(ニューラルネット...
プログラミング

【自前AI講座】ニューラルネットワーク

Chat GPT / Stable Diffusion / 自動運転技術を筆頭に,今や AI といえば Deep Learning の時代といっても過言ではないでしょう(もちろん,スパースモデリングなども今後ブームとなる可能性もあります)....
プログラミング

【自前AI講座】決定木の理論/数式/コード実装

決定木 (decision tree) は,色々な条件でデータをふるい分けすることを繰り返し,木のような構造でデータが分類されていく機械学習手法の一種です.この "ふるい分け" の条件と分けられたデータの経緯が追えるので,なぜその AI モ...
プログラミング

【自前AI講座】SVM(サポートベクターマシン)の理論/数式/コード実装

サポートベクターマシン(Support Vector Machine; SVM,サポートベクトルマシンとも呼ばれる)は,詳細は後述しますが簡単に言うと,例えば3次元の説明変数の分布を均等な距離で綺麗に”良い感じに”分けるような平面を学習によ...
AI

【自前AI講座】LASSO / Ridge 回帰 / ElasticNet の理論/数式/コード実装

ざっくりいうと LASSO / Ridge 回帰 / Elastic Net は,線形回帰モデルの損失関数に正則化項と呼ばれる項を加えた回帰モデルで,学習に用いていない未知のデータに対して線形回帰モデルよりも上手く適合させる(汎化性能を向上...
プログラミング

Google Colab のランタイムをコードから終了させる方法

結論次のコードを実行するだけです.from google.colab import runtimeruntime.unassign()背景/動機Google Colaboratory は手軽に Deep Learning 用のクラウド計算環...
AI

【自前AI講座】線形回帰の理論/数式/コード実装

自前AI講座用の資料です.初回なので,まずは機械学習の中で一番単純と思われる線形回帰について,考え方や数式,Python のライブラリを用いたコード実装までを紹介します.線形回帰とは,説明変数と目的変数の関係を線形なモデルとして表現する回帰...
AI

AI の概要と社会への応用について

これから AI (Artificial Intelligence,人工知能)についての記事を書いていきますが,当該記事はそれの表紙的な役割で,AI の定義や概要,社会への応用について簡単に紹介しようと思います.AI の定義「人類最後の発明」...
Adsense

Google Adsense の審査が通ったときのブログの状態

2022/01/01 からこのブログを書き始め,Google Adsense の審査を都度していて何回も落ちまくっていましたが,当該ブログをご利用の皆さまのお陰で,2022/07/29 にめでたく当該審査が通りました!(審査通過時は,もしも...
プログラミング

グラフ描画ライブラリ matplotlib(入門編)

説明資料ですとかデータ分析におけるグラフの作成について,皆さんはどんなツールを用いていますでしょうか?オフィス用途だと Microsoft の Excel を用いることが圧倒的に多いかと思われます.データ数が多いと Excel では少々役不...
python

PyAutoGUI を用いて Google Colab Pro+ でなくても放置状態で計算させ続ける

Colab ユーザーにおいて,リッチな Pro+ ユーザでない限り最も厄介なのは,「バックグラウンド実行できない」「放置しておくと操作中かどうか聞かれるウィンドウが表示され,そのまま更に放置するとセッションが切れる」という点だと思います.上...
python

Python で excel 処理を半自動化

日本のデスクワーカーにおいて,Microsoft 社の表計算ソフトである excel は,ほとんどの方が業務で用いられる避けて通れないツールだと思われます(excel 以外の表計算ソフトを用いる場合もあると思います).excel は GUI...
IoT

M5Stack / MicroPython / streamlit を用いた簡易的な異常検知モニタリングシステムの構築(プログラミング/実装編)

日本の製造業の中の人が,「ベンダーやコンサルに頼らない」をモットーに,一人で/一週間の真夜中だけで/手持ちの機材で,手軽にAI/IoTシステムを構築できることを証明するために挑みました.当該連載記事はその記録で,今回は,IoT デバイスに実...
IoT

M5Stack / MicroPython / streamlit を用いた簡易的な異常検知モニタリングシステムの構築(ハード/ソフト準備編)

日本の製造業の中の人が,「ベンダーやコンサルに頼らない」をモットーに,一人で/一週間の真夜中だけで/手持ちの機材で,手軽にAI/IoTシステムを構築できることを証明するために挑みました.当該連載記事はその記録で,今回はハード/ソフトの準備に...
スポンサーリンク